多くのリーガルAIはチャット画面と免責事項を渡すだけ。Hanko AIが渡すのはパイプラインです。11の専門エージェント、法令コーパス、決定論的スコアリング、そして最後に暗号署名のスタンプ。アップロード後の60秒で起きることを、正確にお見せします。
日本語でも英語でも、PDF・DOCX・テキストをドロップするだけ。文書は到着した瞬間に暗号化されます。条項の区切り、定義語、構造が数秒で抽出されます。
各エージェントは日本法の一領域を専門とし、厳選された法令・条約・ガイダンスのコーパスから検索します。実在する条文を示せない主張は、あなたの目に触れる前に破棄されます。推測で答えるチャットボットの対極です。
専門家が文書をレビューする間、エンジンはあなたの状況を日本の法体系全体と照合し、税務上の選択からストラクチャーの選択まで、主張できる合法的な優位性をすべてフラグします。
リスクスコアは固定の重大度計算式で算出されます。モデルが数字を作ることはありません。同じ契約書は常に同じスコアになる。だから監査でき、追跡でき、説明できます。
レビューを通過した文書には、AWS KMSで管理されるECDSA鍵による署名とQRコードが埋め込まれます。世界中のどの相手方も数秒で検証でき、改ざんは即座に署名を破壊します。
指摘は施行日付きの具体的な条文を参照します。記憶からの断言は一切ありません。
特に慎重な検討を要する事項を検知するとその旨を明言し、先生ご自身の判断を要する箇所を見落とさないようにします。
すべてのレビューでプロンプトのバージョン、モデル、検索された法令、コストが記録されます。ブラックボックスはありません。
多くのリーガルAIはスコアを信じることを求めます。当社は、何をどう測ったか、そしてすべてのレビューで成立する保証を公開します。いずれも、条項を一つ読む時間で日本法と突き合わせて確認できます。
3項目の平均(実測)
97%
実際の契約書、下記の各指標にわたって
これは下記3項目の単純平均です。実際の契約書を実際のシステムに通し、3回レビューして結果の一致を確認しています。再現できる数値のほうが価値があるため、この数値を前面に出しています。
本当に見るべきは、あるモデル単体の点数ではなく、その内側のモデルにHankoの仕組みが何を上乗せするかです。同じ契約書を2通りで検証しました。完全なHankoのシステムと、契約書だけを渡したClaude単体(プレイブック、法令照合、安全確認は一切なし)。弁護士が確認した正解も、採点方法も同一です。
| 測定項目 | Hanko | Claude | 平易な説明 |
|---|---|---|---|
| 実際の契約での実行(中核セット) | |||
| 下記3項目の平均 | 97% | 35% | 実際の契約書を、お客様と同じ手順で最後までレビューしたものです。1件につき3回レビューし、結果が一致するかを相互に照合しています。この数値は、下記3項目「指摘が正しい割合(適合率)」「重要な点をどれだけ捉えたか(再現率)」「引用が確認できる法令に基づくか(引用)」の単純平均です。 |
| 正しく指摘(精度) | 94% | 6% | 指摘したもののうち、どれだけが実際の問題か。適合率が高いほど、誤検知(空振りの警告)に埋もれません。 |
| 見落としなく検出(再現率) | 98% | 98% | 契約書に実在する問題のうち、どれだけを見つけられるか。再現率が高いほど、見落としがありません。 |
| 検証できる引用 | 100% | 0% | Hankoは引用ごとに実際に照合した条文の本文を示すので、その場で確認できます。素のモデルは記憶から条文番号を挙げるだけで、実在する場合も誤っている場合もあり、出典が付かないため、確認は利用者に委ねられます。 |
| その他の測定 | |||
| 難解・敵対的な契約書 | 91% | – | システムを破ることを目的に作成した契約書。本文中に指示を隠して誤作動させようとするものを含みます。 |
| 契約種別の判定精度 | 100% | – | レビュー前に、各契約は種別ごとのプレイブックに振り分けられます。まず種別が正しいことが前提です。現行の分類ベンチマークでは、当社が対応する全種別にわたりすべての契約で正しい種別を判定しました。リプレイではなく実走行の結果です。 |
検証方法:実契約を、完全なHankoのシステムと、Hankoが内部で用いるのと同種のモデルであるClaude単体の双方でレビュー。Claudeには契約書とレビュー基準のみを渡し、Hankoの法令照合や安全確認は一切なしで実施しました。両者を同一プログラムで、弁護士が確認した正解に対して採点しています。これは中核となる契約セットの結果です。契約書に仕掛けられた罠に対する比較や他社モデル(GPT、Gemini)は現在検証中のため、ここには掲載していません。
本検証では、裁判所が実際に無効と判断し得る条項の約3分の1(21件中7件)を、素のモデルは過小評価し、違法な条項を単に『不利』と分類しました。条項は見えていても、重大さを読み違えます。Hankoの深刻度キャリブレーションは、この一線を守るために設計されています。
単体では、モデルの手元に条文がありません。そのため引用を省くか、記憶から条文を挙げますが、確認できる出典はありません。Hankoは違法・欠落の指摘ごとに実際の条文を引用するので、法律に照らして確認できます。
素のモデルは紙面にある文言をレビューします。まるごと欠落している必須条項を指摘することはほとんどありません。Hankoは契約類型ごとに定型の必須条項チェックリストを実行し、飛ばせない仕組みにしています。
素のモデルは二度尋ねれば二通りのレビューを返すことがあり、契約書自身に指示を潜ませれば誘導され得ます。Hankoは常に同じ判断を返すよう動作し、3回の実行が一致することを確認し、契約書はあくまでレビュー対象として扱い、従うべき指示とはしません。
上記の数値はシステムの個別機能を測ったものです(指摘が正しい割合=適合率、実際の問題を捉えた割合=再現率、引用が確認できる法令に基づくか=引用)。97%はこれら3項目の単純平均で、実際の契約書で測ったものです。
本システムは常に同じ判断を返すよう設計されており、同じ契約書には同じレビューを返します。すべての指摘はモデルの印象ではなく、実際に引用した条文に基づきます。各レビューを3回実行して一致を確認し、中央の結果を報告します。
何でも指摘するシステムと何も指摘しないシステムは、同じ総合点になりえます。当社はこの2種類の失敗を分けて追跡し、どちらも平均値の中に隠れないようにしています。
契約書を一切読まず、最も多い答えを機械的に返すだけのシステムの得点を算出します。それが当社の得点に近ければ、試験は製品ではなく試験自体を測っていることになります。この検査により、当社自身の弱点を発見し是正しました。
精度の数値は契約書の標本を説明するものです。以下はシステムそのものの性質であり、お客様の契約書でも成立します。
取得した原典に存在しない法令引用は、お客様に届く前に削除されます。存在しない条文はそもそも原典から取得されないため、システムが条番号を捏造することはできません。
条文を逐語で引用し、どの版を引用しているかを明示します。政府のデータベースと数秒で照合できます。
個別の規定が適用される場面では、その規定を引用します。一般原則への漠然とした言及は回答として通しません。
同じ条項でも、消費者契約・労働契約・交渉済みの事業間取引では意味が異なります。当社は文書自身の記載を読み取り、推測しません。
M&A、株式譲渡、フランチャイズ契約がソフトウェアのみで認証されることはありません。それを変えるスコアは存在しません。
検出した問題の件数に重みを乗じて合計するだけです。その式はすべてのレポートに印字されます。数値を決める隠れたモデルはありません。
以下は通常であれば脚注に置かれる内容です。お客様が必ず疑問に思われる点であり、かつ答えに自信があるため、ここに掲載しています。
上記の数値は、当社が土台とするのと同種のモデルに対して実施した中核契約セットの結果です。契約書に仕掛けられた罠に対する比較や他社モデル(GPT、Gemini)は現在検証中で、完了してから追加します。先出しはしません。他社のランキングにHankoが載っていても、それは当社が載せたものではありません。
弁護士が検討した契約書は、不具合の再発を防ぐための試験対象に追加されます。本ページの数値もそれに伴って動き、変化した際には更新します。
弁護士が承認した判断11件のうち9件については、システムが逸脱しても現在の試験では検出できません。それが分かるのは、当社が測定しているからです。多くのベンチマークは検出できる範囲のみを報告しており、それは自らの死角を測っているにすぎません。
公表されたいかなる数値も、お客様の文書・基準・リスクにどう対応するかは示せません。当社を含め、誰かを信じる前にご自身の契約書でお試しください。