研究開発の取り組み
社員86名のうち31名が研究職です。研究チームは論文を出すことだけを目標にしていません。導入先で「うまく動かなかった」ことを持ち帰り、それを研究テーマにする。この往復ができる規模にとどめておくつもりです。
事前学習、追加学習、評価のすべてを自社で行っています。GPU 512基のクラスタを自社で運用し、学習を外部に依存しない体制にしました。うまくいかなかった手法も Tech Blog に書き残しています。成功例だけを並べると、同じ失敗が業界で繰り返されるためです。
いずれも、導入先で実際に困ったことから出発しています。
日本語の事前学習
翻訳を経由せず、日本語のデータから直接学習させます。敬語の使い分け、業界固有の用語、社内だけで通じる言い回し。海外モデルが落としがちな部分に、ここで手を入れています。
トークナイザの設計
日本語は1文字が複数トークンに分割されやすく、そのぶん処理コストが増えます。業務文書に頻出する熟語を単一トークンとして登録し、同じ文章のトークン数を減らす取り組みです。
検索と生成の組み合わせ（RAG）
社内文書から根拠を探し、それをもとに回答を作る仕組みです。難しいのは生成ではなく検索の側で、質問の言い換えと文書の分割単位が精度を左右します。
評価データセットの整備
既存のベンチマークでは、業務で使えるかどうかが測れません。実際の社内文書を模したデータセットを自前で作り、そこで測っています。一部は公開しています。
課題を拾ってから製品に入るまで、5つの工程を回しています。
課題を実務から拾う
導入先で「うまく動かなかった」ことを持ち帰るところから始めます。表が入れ子になったExcelの読み取り、同じ内容の新旧が混在する文書。研究テーマの多くは現場から出ています。
再現できる形にする
「なんとなく精度が低い」では手を入れられません。どの入力でどう間違えるかを、再現できるテストケースに落とします。ここに最も時間がかかります。
手法を試す
複数の手法を並行して試します。多くはうまくいきません。うまくいかなかった記録も残し、Tech Blog に書くようにしています。同じ失敗を他社が繰り返さないためです。
評価する
既存のベンチマークと、自前の業務文書データセットの両方で測ります。前者だけが良くなっても、実務では意味がないことが分かっているためです。
製品へ反映する
効果が確認できたものだけを製品に入れます。ここでも導入先の環境で再度測り、改善が確認できなければ差し戻します。
研究職31名
社員86名のうち31名が研究職です。この比率は意図して保っています。製品開発だけに寄せると、2年後には海外モデルに置き換えられてしまうためです。
評価は開発者以外が行う
手法を開発した本人が評価すると、良く見える条件を選んでしまいます。評価の設計と実施は、開発した人とは別の担当が行う決まりにしています。
うまくいかなかった記録も公開
試して駄目だった手法も Tech Blog に書いています。成功例だけを並べると、同じ失敗が業界で繰り返されるためです。
うまくいかなかった記録も含めて書いています。
| 年 | タイトル | 発表先 | 形式 |
|---|---|---|---|
| 2026 | 日本語トークナイザの語彙設計が推論コストに与える影響 | 国内学会（架空） | 口頭発表 |
| 2025 | 業務文書を対象としたRAGの評価データセットの構築 | 国際会議ワークショップ（架空） | ポスター |
| 2025 | 文書の版の新旧判定における、更新日以外の手がかり | 国内学会（架空） | 口頭発表 |
| 2024 | 限られたGPU資源での日本語モデル事前学習の実際 | 技術報告（架空） | 技術報告書 |
| 2024 | 敬語表現の一貫性を測る評価指標の提案 | 国内学会（架空） | ポスター |
横にスクロールすると全項目を確認できます。本サイトはデモ用のテンプレートで、掲載の論文・発表先は、すべて架空のものです。
大学の研究室、および業種特有の課題をお持ちの企業との共同研究を受け付けています。とくに、その業界でしか出てこない言い回しや、独自の文書体系を扱う研究に関心があります。
成果の公開範囲は、開始前に取り決めます。当社としては論文化できる形が望ましいものの、機密性の高いデータを扱う場合は非公開でも構いません。研究テーマや体制についての質問はよくある質問にも一部掲載しています。
研究の詳細や、評価データセットについての資料をお送りできます。