Cactus Computeが2026年5月15日に公開したNeedleは、スマートフォン、スマートウォッチ、ARグラスなど、極めてリソースが限られたオンデバイスのエッジ環境で超高速に動作するように設計された、2600万パラメータサイズの超軽量な関数呼び出し専用の小型言語モデルです。まるでスマートデバイスのハードウェアコントローラーがセンサー割り込みを検出し、遅延なく即座に信号を変換するように、Needleはモバイル環境でユーザーの音声またはテキストクエリをリアルタイムでマッピングし、利用可能なAPIツールと単一のフォワードパスで接続するデジタル超小型ルーターとして機能します。アテンション演算以外に、重い多層パーセプトロンレイヤーを完全に除去した独創的な単純アテンションネットワークアーキテクチャを導入することで、極めてコンパクトな容量を実現しながら、単一のクエリを目的とした知識活用性能を保証するように設計されています。 従来の汎用小型モデルは、エッジデバイスで実行するには依然として数十億のパラメータを搭載しており、推論速度が遅く、演算中にかなりのデバイスメモリと電力を消費し、バッテリー寿命を短縮するという限界がありました。Needleは、これらの限界を克服するために、多層パーセプトロンレイヤーを排除する大胆なアーキテクチャ最適化と、Gemini 3.1からの精密な蒸留技術を組み合わせることで、わずか14MBの4ビット量子化モデルだけで、数十倍も大きな汎用モデルよりも高速なオンデバイス応答速度を実現します。スマートフォンやスマートグラスの低電力プロセッサでも、数千トークン以上のコンテキストをリアルタイムで処理できる速度を示し、複雑なパイプラインの迂回なしにクラウドサーバーの遅延を受けることなく、オンデバイスだけで完結性のあるツール呼び出しを実行する、他に類を見ない実用性を確立しました。 このツールは、モバイルタブレットやウェアラブルデバイスを、両手が自由でない滅菌された研究室内で使用する必要があるバイオテクノロジー研究者にとって、非常に革新的なシナリオを提供します。たとえば、研究者がピペッティングや顕微鏡観察を行いながら、ウェアラブルデバイスに向かって「現在の加湿器温度センサーの値を記録し、昨日登録した遺伝子発現シーケンスの比較結果を確認して」と自然言語で指示すると、Needleがバックエンドで動作します。デバイス内部の組み込みコアで実行されるNeedleは、研究室のローカル制御関数とタンパク質分析APIツールの定義リストを入力として受け取り、遅延なく即座に、対応する呼び出し引数と結合された構造化されたJSONメッセージを生成します。これにより、研究者は複雑なサーバーの起動やネットワーク状態の不安定性なしに、オンデバイスだけで実験機器と分析ツールを直感的に制御できるスマートラボエージェント環境を安定して運用できます。

Cactus Computeは、2026年5月15日に公開したNeedleを、スマートフォン、スマートウォッチ、ARグラスなど、極めてリソースが限られたオンデバイスのエッジ環境で超高速に動作するように設計された2600万パラメータサイズの超軽量な関数呼び出し専用の小型言語モデルとして発表しました。まるでスマートデバイスのハードウェアコントローラーがセンサー割り込みを検出し、遅延なく即座に信号を変換するように、Needleはモバイル環境でユーザーの音声やテキストクエリをリアルタイムでマッピングし、利用可能なAPIツールと単一のフォワードパスで接続するデジタル超小型ラ

ウェアラブルデバイス向け自然言語バイオツールバインディング: オフラインのラボ環境にあるモバイルグラスから、研究者の自然言語コマンドを認識し、遺伝子参照ツール（protein_searchなど）の呼び出しパラメータを0.1秒以内にマッピングして、音声実行と連携する