RightNow-AI

オープンソースのエージェントOS

256MB RAM を搭載した 10 ドルのボード上で 10 億パラメータの LLM を実行する

GPU カーネルの自動リサーチ。任意の PyTorch モデルを渡して眠れば、最適化された Triton カーネルになって目覚めます。