生成AIと法律実務への影響、法律実務家の廃業、個人情報保護法との法的摩擦

１．生成AIの法律実務への影響

(1)生成AIとは

皆さんこんにちは。京都の中川総合法務オフィスの中川です。今日は、生成AIと法律実務への影響についてお話しします。

当初、生成AI（ジェネレーティブAI、アーティフィシャルインテリジェンス）は、従来のAIと大きく異なると言われていました。オープンAIがチャットGPTを公表した際、多くの人が利用しましたが、当初は誤りが多く、様子見の状態でした。

しかし、チャットGPTは学習データを持ち、プロンプト入力に応じて文章、絵、動画などのコンテンツを出力するもので、技術の進歩により一般に利用できるレベルに近づいています。

(2)生成AIの仕組みと限界

生成AIはデータベースから答えを出すのではなく、確率に基づいてコンテンツを生成するため、誤解が多いです。あくまで確率であるため、文章を作成してもそれらしくなるだけで、誤りが出る可能性は常に存在します。したがって、人間のチェックが不可欠です。

ラージランゲージモデルは、人間の神経に近いニューラルネットワークを利用し、学習データにインターネット検索結果などを加えて回答します。技術はまだ発展途上であり、今後の動向は不明ですが、現段階ではこのような状況です。

(3)生成AIと法律

法律分野で最初に問題になったのは著作権法です。私は著作権法の学会に所属しており、昨年学会で徹底的に議論し、書籍や学会誌にその内容が掲載されました。

生成AI登場以前から、インターネット検索エンジンが情報解析を行う際の違法性を確認するため、著作権法30条の4第2号が設けられていました。生成AIの利用は、偶然にもこの条項に該当することになりました。

この条項は、インターネット時代の情報解析を想定したものであり、生成AIを想定したものではありませんでしたが、一定の要件の下で生成AIによる著作物の利用が認められることになりました。

(4)生成AIと個人情報保護法

著作権法以外にも、個人情報保護法が問題になります。個人情報保護法には、生成AIに関する明文の規定はありません。従来の個人情報保護法を解釈する必要があります。

従来から、クラウド例外という概念が存在しました。クラウド上に個人情報を上げても、それを直接利用するのではなく、管理するだけであれば問題ないという考え方です。このクラウド例外が、企業や医療機関が生成AIに個人情報を入力する際に問題となります。今後の議論の中心になるでしょう。

(5)生成AIと海外の個人情報保護法

個人情報はインターネットを通じて海外に流出する可能性があります。海外への移転規制との関係で、個人情報保護法はさらに複雑になります。どこまでを第三者提供と解釈するかの議論は、今後も継続されるでしょう。

(6)生成AIとその他の法律

金融商品取引法も問題です。生成AIは確率に基づいて回答するため、金融商品の勧誘行為を禁止する規定に抵触する可能性があります。弁護士や税理士などの士業法との関係も問題です。資格を持たない者が法律相談などを行う可能性があります。

景品表示法や特定商取引法も同様に、不当表示や誇大広告などの問題を引き起こす可能性があります。文明の流れを止めることはできません。ヨーロッパは規制が厳しいですが、アメリカは積極的に推進しています。

日本は中間的な立場を取ろうとしていますが、著作権法や個人情報保護法など、多くの法律で議論が必要です。日本の法体系が、再び黒船のように外部からの圧力にさらされる可能性もあります。生成AIへの対応は、今後の大きな課題です。

私もAIの仕組みを学び、法律実務にどのように適用できるかを検討しています。著作権法や経済法など、重要な法律を中心に情報発信を続け、コンサルティングも提供したいと考えています。

２．生成AIは法律実務家の仕事を奪うか

(1)生成AIの進化と法律専門家

生成AIサービスの普及と性能向上は目覚ましいです。しかし、法律専門家の仕事が奪われることはないと考えられます。生成AIはデータを学習し、プロンプトに基づいてコンテンツを生成する仕組みです。データベースから答えを出すわけではないため、人間の専門家と同等の精度は期待できません。

むしろ、高度な専門知識を持つ法律専門家の社会的地位は向上するでしょう。資格保有者の間で、勝ち組と負け組が明確になる可能性もあります。

(2)生成AIと契約書作成業務

生成AIは文章作成能力に優れており、契約書などの法律文書の作成に利用できます。しかし、専門家によるレビューは不可欠です。今後は、生成AIが作成した文書を専門家がチェックするという流れになるでしょう。

行政手続き文書や申請書、総務文書なども同様です。生成AIは、インターネット上の情報も学習し、リアルタイムに近い情報を提供するようになるでしょう。これにより、人間の専門家はより高度な判断に集中できるようになります。

しかし、生成AIをどのように利用し、その結果をどのようにチェックするかは、人間の教養や知性に依存します。正しい倫理観を持つ人間の重要性は、今後ますます高まるでしょう。生成AIは社会に大きな影響を与えますが、法律専門家は自身の能力を磨き続ける必要があります。

３．生成AIと個人情報保護法との法的な摩擦

(1)生成AIと個人情報保護法の現状

学会でも議論されていますが、個人情報保護法の問題は依然として大きいです。チャットGPT以外の生成AIサービスでは、個人情報の第三者提供を制限する機能が不十分な場合があります。

生成AIサービス事業者は、様々なデータ基盤を利用して学習し、プロンプト入力に応じてコンテンツを出力します。この仕組みにおいて、個人情報をプロンプト入力したり、ファイルをアップロードしたりする場合、その後のデータの扱いはブラックボックスです。個人情報がどのように学習され、利用されるかは不明であり、様々な問題が発生する可能性があります。

著作権法の問題も大きいです。ジブリ作品を模倣したコンテンツが多数生成されており、海外の事業者の著作権意識の低さが問題になっています。生成AIサービス事業者は、海外の企業が主流です。Google、OpenAI、Publics、Claudeなどが代表例です。

個人情報とは、個人を特定できる情報のことであり、住所や氏名などが該当します。個人情報保護法は、これらの情報の取得、管理について規定しています。個人情報保護委員会が監督を行い、ガイドラインなどを提供していますが、これらはあくまで参考情報です。民主主義国家では、国民自身が法律を解釈し、判断することが基本です。

(2)生成AIによる個人情報利用のリスク

しかし、仕事で個人情報を入力する必要がある場合、どのように考えればよいでしょうか。個人情報取扱事業者は、クラウド例外を根拠に、個人情報の提供には当たらないと主張できます。

しかし、生成AIサービスに個人情報を入力する場合、学習データとして利用される可能性があります。生成AIは確率に基づいてコンテンツを生成するため、100%正確ではありません。したがって、個人情報が第三者に提供されるリスクは否定できません。その場合、本人の同意や法令に基づく場合、生命、身体、財産を保護する必要がある場合に限られます。