強化学習環境
長い期間にわたる業務環境でのエージェント能力を測定するために、自然な指示、現実的なツール、ドメイン固有の判断を備えた、耐久性のある環境を構築します。
Datacurveは、フロンティアAI向けのデータと評価インフラを構築し、長期推論、ソフトウェアエンジニアリング、データサイエンス向けのデータセット、ベンチマーク、環境、専門家の軌跡を提供します。
Datacurveは、自らをフロンティアAI向けのデータエンジンであり、長期にわたる作業をモデルに学習させる助けとなる研究およびデータ収集のためのインフラだと説明しています。サイトでは、特に判断、反復、途中経過が重要となる推論、ソフトウェアエンジニアリング、データサイエンスに必要なデータの種類に焦点を当てています。
製品ページでは、Datacurveをデータセット、ベンチマーク、評価、強化学習環境、専門家の軌跡の提供者として紹介しています。公開研究ページには、長期的なソフトウェアエンジニアリング向けベンチマークであるDeep SWEが追加されており、同社がより現実的なエンジニアリングタスクでのエージェント性能を評価・測定するためにこのアプローチを適用していることが示されています。
長い期間にわたる業務環境でのエージェント能力を測定するために、自然な指示、現実的なツール、ドメイン固有の判断を備えた、耐久性のある環境を構築します。
数時間から数日にわたるタスクを収集し、曖昧さ、途中段階の進捗、リカバリーを保持することで、モデル学習が簡略化されたプロンプトではなく実際の作業を反映するようにします。
シグナルに基づいて厳選され、品質レビューを受け、トレーニングスタックに直接組み込めるよう構造化された、事前構築済みデータセットを提供します。
単一の数値スコアの最適化だけでなく、タスクに忠実でドメインに敏感な向上を捉えることを目指したベンチマークを構築します。
ツール呼び出し、チェック、方針転換、リカバリーを含む専門家の実行トレース全体を記録し、エージェントが結果だけでなくプロセスも学べるようにします。
専門家が自然に作業しながら、その作業の背後にある判断を保持できる専用ツールを用いて、教師ありファインチューニング用のデモンストレーションを作成します。
多くの中間ステップ、ツール使用、リカバリーに正しい結果が依存する長めのエンジニアリング作業で、コーディングエージェントを学習または評価します。
タスク構造と判断が重要となる科学的または分析的な環境で、モデル開発向けのデータセットと評価を整備します。
部分的な進捗やドメイン固有の判断を含む、実際のシステムの複雑さを反映した現実的な強化学習環境を作成します。
専門家の実行トレースとデモンストレーションを使って、最終的な答えだけでなく、専門家がどのようにタスクを進めるかをモデルに教えます。
Datacurveは、フロンティアAI向けの研究とデータ収集のためのインフラとして位置づけています。製品ページでは、強化学習環境、長期タスク、OTSデータセット、ベンチマーク、エージェントの軌跡、教師ありファインチューニング用データに焦点を当てています。
このサイトでは、ソフトウェアエンジニアリング、データサイエンス、サイバーセキュリティ、機械学習、研究を取り組み対象の分野として挙げており、長期推論と検証可能な作業に重点を置いています。
リサーチページでは、長期的なソフトウェアエンジニアリング向けのベンチマークであるDeep SWEを紹介しており、Datacurveが自社研究からベンチマーク、データセット、評価を公開していると述べています。
収集した証拠にある価格ページは404を返しているため、提供された情報源では現在、安定した価格ページは公開されていません。