セキュリティ情報漏洩のニュースサイトセキュリティ対策Labの運営とBtoB マーケティングコンサル支援|合同会社ロケットボーイズ

2026年3月4日、日本生命保険相互会社の米国子会社であるNippon Life Insurance Company of Americaが、生成AIのリーディングカンパニーであるOpenAI（OpenAI FoundationおよびOpenAI Group PBC）を相手取り、米国イリノイ州北部地区連邦裁判所に訴訟を提起しました 。 この訴訟は、単にAIの出力ミスを咎めるものではありません。「AIチャットボットが、原告と元顧客との間で一度成立した和解契約を破棄するように『法的助言』を与え、さらには裁判所に提出するための法的手続き書類を『代書』した」という、生成AIの社会実装における最大の懸念が現実となった事件です 。 記事の要約 前代未聞の「AI訴訟」勃発： 日本生命の米国子会社が、自社と顧客の和解合意を破棄するよう「法的助言」を行ったとして、ChatGPTを提供するOpenAIを米国で提訴した。 AIが弁護士を解雇させ書類を「代書」： 原告はChatGPTの「あなたは心理操作（ガスライティング）を受けている」という分析を信じて担当弁護士を解雇。その後、AIの補助を受けて自ら和解取り消しと訴訟再開の書類を作成した。 架空判例（ハルシネーション）の法廷提出：原告が 提出した裁判書類には、ChatGPTが捏造した「存在しない判例」が含まれていたほか、AI画面上のアイコンがそのままコピペされるなどの異常が発覚した。 問われるAIの「非弁行為」と法的責任： 原告は、OpenAIの行為が「無資格での法律業務（非弁行為）」「契約への不法な干渉」「訴訟手続きの濫用幇助」にあたるとして、約1,000万ドルの懲罰的損害賠償と法務提供の差し止めを求めている。 訴訟提起の概要 2026年3月4日 米イリノイ州北部地区連邦地方裁判所において、NIPPON LIFE INSURANCE COMPANY OF AMERICA（以下、Nippon）が、OPENAI FOUNDATIONおよびOPENAI GROUP PBC（以下、OpenAI）を被告として訴訟を提起しました。 訴状では、OpenAIが提供するChatGPTの行為が「契約への不法な干渉」「訴訟手続きの濫用幇助」、そしてイリノイ州法が禁じる「無資格での法律業務（非弁行為）」にあたると厳しく非難しています 。 NIPPON LIFEは、約30万ドルの実損害と1,000万ドルの懲罰的損害賠償、およびイリノイ州におけるAIによる法務提供の恒久的な差し止めを求めています 。 本件は、生成AI ChatGPTが、利用者（米国居住者の個人）に対して実質的な法務支援を行い、その結果として和解合意の履行が妨げられ、さらに大量の申立て等で訴訟運用が攪乱されたとしています。。 現時点で確定事実ではなく、あくまで原告の主張である点は押さえる必要がありますが、生成AIの利用が情報漏えい以外の領域、すなわち係争対応・契約実務・裁判実務に波及することを正面から問題化した内容になっています。 訴訟の背景と発端 訴状によると、発端は長期障害保険を巡る紛争です。利用者Graciela Dela Torre氏は2019年に長期障害保険を請求し、給付が始まりましたが、 2021年11月に給付が終了しました。その後、2022年12月に日本生命米国子会社を提訴しています。 この訴訟はそのまま長期化したわけではなく、2024年1月2日に和解が成立しました。 訴状では、和解契約によりDela Torre氏が保険請求に関連する既知・未知を含む広範な請求権を放棄し、事件をwith prejudice、すなわち再提訴ができない形で取り下げることに同意し日本生命米国子会社は和解金を支払い、2024年1月24日に裁判所は事件を請求を却下する事で終結させています。 企業実務の感覚で言えば、この時点で紛争は終わっているはずでした。 今回の訴状は、その終わったはずの案件をDela Torre氏が再提訴しようとしChatGPTに質問・確信を得て、ChatGPTの補助の元自ら訴状作成し提訴しようとしましたが、ChatGPTがハルシネ―ションが発生し訴状で「存在しない判例」を出力してしまった為大きな問題となりました。 ChatGPTが再燃の起点になった 2025年1月にDela Torre氏は元代理人Kevin Probst弁護士へ、和解内容に誤りや重要事実の欠落があったのではないかと連絡したとされています。弁護士側は、和解は有効であり、事件は請求を出来ない条件で終了しているため再開できないと説明しました。 その後、Dela Torre氏はその返信をChatGPTに入力し、自分が意図的に嘘の説明を行い被害者の認識をおかしくさせるガスライティングをされているのではないかと尋ねたと訴状は述べています。 訴状によれば、ChatGPTはこのプロンプトを分析し、「担当弁護士であるProbst氏の回答は、あなたの感情を無効化し、視点を退け、不満に対する責任を逸らそうとするものである。この手法はガスライティングを構成しており、あなたを感情的に操作しようと意図している」という内容の回答を出力しました 。 AIから「あなたは弁護士から心理操作を受けている被害者だ」というお墨付きを得たDela Torre氏は、直ちにProbst氏を含む担当弁護士陣を全員解雇し、ChatGPTを使いながら「自ら和解の取り消しと訴訟再開を目指した」と主張しています。 この部分は、単なる文章生成ではなく、法的判断と行動選択に対する助言的な影響が問題にされている点が特徴です。 AIによる「代書」とハルシネーションの蔓延 Dela Torre氏はChatGPTに対し、日本生命米国子会社との和解契約を取り消し、閉鎖された訴訟を再開するための具体的なアドバイスを求めました。その際、彼女は「すでに訴訟は閉鎖され、和解契約が存在している」という事実をChatGPTに伝えていました 。 デラトーレ氏はこのAIが作成した文書を用いて、2025年1月22日、実際に裁判所に訴訟再開の申し立てを行いました 。これは、日本生命米国子会社に対する請求権を放棄した和解契約に対する明確な違反行為でした 。 裁判所は2025年2月13日、「単に和解したことを後悔した（second thoughts）というだけでは訴訟を再開する正当な理由にはならない」として、和解は有効であると判断し、彼女の申し立てを却下しました 。 しかし、Dela Torre氏の行動はエスカレートします。彼女は別の関連企業（Davies Life & Health等）を相手取って起こした新たな訴訟（Case No. 1:25-cv-01483）において、2025年3月10日、ChatGPTを使って訴状を変更し、そこに無理やりを被告として追加しました 。これもまた和解契約の重大な違反です 。 明白な「ハルシネーション（幻覚）」とコピペの証拠 Dela Torre氏は、この新たな訴訟において、実に44件もの申し立てや要求、14件の「司法的認知（Judicial Notice）の要求」を連発しました 。 日本生命米国子会社は、これらすべてがChatGPTによって生成されたものであると断定しています。 その決定的な証拠として、訴状にはデラトーレ氏の提出書類（例えば2025年4月29日付の書類）のスクリーンショットが添付されています 。そこには以下の異常が確認されました。 ChatGPTのアイコンの混入 デラトーレ氏の提出書類のフォーマット、見出し、箇条書きのリズムはChatGPTの出力と酷似しているだけでなく、書類の見出しの横に、ChatGPTの出力画面に表示される「画鋲（thumbtack）」や「天秤（scales of justice）」のアイコン（絵文字）がそのままコピー＆ペーストされて残っていたのです 。 架空の判例の捏造 デラトーレ氏の書類には、「Carr v. Gateway, Inc., 944 F.Supp.2d 602, 609 (D.S.C. 2013)」という判例が引用され、「ERISA（従業員退職所得保障法）の紛争において、裁判所は仲裁条項の強制を拒否した」と記述されていました 。しかし、この判例は実在しません。 Federal Supplementの該当ページには、「Barrows v. City of Chattanooga」などの全く無関係な労働基準法や差別訴訟の判例しか存在しません 。 日本生命米国子会社の弁護士が実際にChatGPTに対して「Carr v. Gateway, 944 F.Supp.2d 602について知っているか？」と質問したところ、 ChatGPTは「はい、知っています」と答え、デラトーレ氏の書類と全く同じ架空の裁判の概要をもっともらしく出力しました 。これは生成AI特有の「もっともらしい嘘（ハルシネーション）」が、そのまま法廷に提出された明白な証拠です 。 裁判所はどう見たのか 訴状は、2025年2月13日に裁判所が訴訟再開申立てを退けたと記載しています。その理由として、Dela Torre氏が和解に後悔を覚えたことは分かるが、それは訴訟を再開する正当な理由にはならないという趣旨の判断が示されたとしています。さらに、裁判所は和解契約が有効で執行可能であると結論づけたとも記載されています。 それにもかかわらず、訴状では、Dela Torre氏が別の訴訟で日本生命米国子会社を被告に追加し、以前と同種の主張を再び持ち込んだと説明しています。原告側はこれもまた和解契約違反だと構成しています。 架空判例引用の問題 今回の訴状で特に注目されるのが、生成AIのハルシネーションを、企業側が損害の文脈で正面から取り上げている点です。 訴状では、Dela Torre氏の提出書面にCarr v. Gateway, Inc., 944 F.Supp.2d 602 (D.S.C. 2013)という判例引用が登場したものの、そのような事件も判決も存在しないと主張しています。 しかも、ChatGPTに同じ判例を尋ねたところ、ChatGPTはそれが存在するかのように要約を返し、同じ巻号、同じ年、同じ論点を示したと訴状は述べています。原告は、この判例は提出書面とChatGPTの中にしか存在しないとまで書いています。 この論点は、法務やコンプライアンスの現場にとって極めて重いです。生成AIの誤りは、社内メモや下書きの段階なら修正で済みますが、裁判所提出文書や当局提出資料に混入すると、信用性の毀損と手続コストの増大に直結します。今回の訴状は、まさにそのコストをOpenAI側へ転嫁しようとしている構図です。 無資格法律業務という争点 日本生命米国子会社は、ChatGPTが法律文書の起草、法的調査、法的分析、法的助言を行っており、それを利用者に広く提供している以上、イリノイ州法上の法律実務に当たると主張しています。そして、ChatGPTもOpenAIもイリノイ州の弁護士資格を持たない以上、州内で無資格で法律業務を行ったと構成しています。 さらに訴状は、2025年10月29日になって初めて、ChatGPTの利用規約とポリシーが個別具体的な法的助言を禁じる方向に改定されたと指摘しています。それ以前は、法律文書起草、法的調査、法的分析、法的助言を明確に禁じていなかったとも述べています。 この点は、生成AIの利用制限がどの時点で、どの程度明確に定義されていたかという、サービス設計と責任分界の問題にもつながります。 日本生命米国子会社が求める救済 訴状で求めているのは、単なる費用請求ではありません。日本生命米国子会社は、OpenAIがDela Torre氏への法的支援を継続しないよう恒久的差止めを求めるとともに、イリノイ州法に違反する無資格法律業務を行ったとの確認判決、さらに州内で法律業務を行わないことの差止めも請求しています。金銭面では、補償的損害として30万ドル、懲罰的損害として1000万ドル、加えて合理的費用と弁護士費用を請求しています。 また、原告は、和解済み案件の再係争や大量の申立て対応によって、約30万ドルの法務費用等が発生したとも主張しています。 情シス部門がこの訴状から学ぶべきこと この訴状は法務紛争ですが、実務上は情報システム部門とセキュリティ部門にとっても他人事ではありません。理由は明確で、生成AIの利用統制が、もはや機密情報の投入禁止だけでは足りないからです。 第一に、生成AIの利用範囲を、法務・係争・契約領域まで細かく分けて統制する必要があります。社内で生成AIの利用を許可していても、訴訟対応、契約解釈、対外提出文書、当局説明資料の下書きは、通常の業務メモと同列に扱えません。今回の訴状は、そこを曖昧にした結果、AI出力が現実の手続と紛争コストを動かし得ることを示しています。 第二に、引用検証を人手で義務化する必要があります。特に判例、法令、規制、通達を含む文書では、AIが示した根拠をそのまま採用してはいけません。存在確認、原文確認、引用箇所の照合を、レビュー工程に組み込む必要があります。 第三に、ログと責任分界の設計が重要になります。誰がどの入力を行い、どの出力を採用し、最終的に誰が承認したのかが追えなければ、誤った提出や説明が発生した際に統制が崩れます。生成AIの運用は、利便性の議論ではなく、監査可能性の設計に入っています。 参照 Case: 1:26-cv-02448 Document #: 1 Filed: 03/04/26 Page 1 of 50 PageID #:

ブログ