3要素のモデルスタック
レイアウトと言語に依存しないエンコーダー、単一言語のContextLM、より高精度を狙うレイアウト固有のデコーダーという3種類のモデルを組み合わせて使用します。
FUTO Swipeは、スワイプ入力のパスを単語予測に変換する研究向けリリースです。データセット、モデル群、C++デコードライブラリを収録し、評価や学習に活用できます。
FUTO Swipeは、描画したキーボードのパスを単語予測に変換することに焦点を当てた、スワイプ入力の研究およびモデル公開です。このプロジェクトは、公開データセット、学習済みモデル、デコードライブラリを組み合わせており、スワイプ入力を評価したり推論ワークフローで利用したりできます。
このサイトでは、モデルスタックは3つの要素で構成されると説明されています。汎用エンコーダー、単一言語のContextLM、レイアウト固有のデコーダーです。これらを辞書制約付きビームサーチと組み合わせることで、低価格帯のデバイスでも動作するほど小さいモデルサイズを保ちながら、スワイプ予測の品質向上を目指しています。
このプロジェクトは、2024年8月にswipe.futo.orgで行われたデータセット収集作業から生まれました。その取り組みにより100万件を超えるスワイプが収集され、クリーンアップ済みの100万件のスワイプからなるデータセットが、2025年3月にMITライセンスのもとHuggingFaceで公開されました。
FUTO Swipeは、推論、デコード、ビームサーチのためのC++ライブラリであるswipe-libraryも公開しています。サイトでは、スワイプの軌跡から順位付き候補語へ移るために必要な、欠けていた要素として位置づけられています。
レイアウトと言語に依存しないエンコーダー、単一言語のContextLM、より高精度を狙うレイアウト固有のデコーダーという3種類のモデルを組み合わせて使用します。
エンコーダーはレイアウトや言語をまたいだ汎用的なスワイプ予測を提供し、デコーダーは特定のレイアウトと言語向けに学習されてキーボード固有の挙動を捉えます。
ContextLMは直前の文脈を使って意味をなさない語の並びを抑制し、学習にはテキストデータだけが必要です。
辞書制約付きビームサーチがスワイプパスから候補語をスコア付けします。生のモデル出力だけでは不十分なため、この処理が必要になります。
この公開版にはswipe-libraryが含まれており、スワイプパスから単語予測までの推論、デコード、ビームサーチを扱うC++ライブラリです。
このサイトでは、MITライセンスのもとで公開された100万件の英語QWERTYスワイプのデータセットが報告されており、モデルの学習と評価に使われています。
公開データセットとモデル説明を使って、スワイプ入力システムを調査したり、アプローチを比較したり、管理された英語QWERTYコーパスで評価を再現したりできます。
生のジェスチャーパスから候補を順位付けする必要があるスワイプから単語へのパイプラインを構築またはテストするときに、エンコーダー、ContextLM、デコーダーを組み合わせて使えます。
モデル出力の周辺にあるデコード層とビームサーチ層が必要な場合は、単にスコアを出すだけの生のモデルではなく、swipe-libraryを使えます。
公開リソースを使って、文脈、レイアウト知識、レイアウト固有学習が予測品質にどの程度寄与するかを理解できます。
ミリ秒規模の推論と低い計算量が重要なデバイスや環境を対象にする場合は、小型のモデルスタックを使えます。
ソースでは、FUTO Swipeは公開スワイプデータセット、学習済みモデル、そしてパスを単語予測へデコードするためのC++ swipe-libraryで構成されたスワイプ入力システムだと説明されています。
ページでは、公開されているデコーダーは現在QWERTY英語のみで利用可能だと述べています。これは、デコーダーの学習に特定のレイアウトと言語のスワイプ入力データが必要だからです。
サイトでは、データセットはMITライセンスで公開されており、HuggingFaceで利用可能だと説明されています。
モデルは低価格帯のデバイスでミリ秒単位で動作できるほど小さいと説明されており、サイトによると全体のスタックは辞書制約付きビームサーチを使って候補語を生成します。
ページには一般向けアプリ、SDK、ホスト型APIの記載はなく、スワイプから単語予測へのワークフロー向けに公開されたリソースとしてモデルとswipe-libraryが示されています。