契約書は誤りが重大な影響につながる文書であるため、生成AIを利用する場合は、入力と出力の両面での管理が必要です。
入力面では、契約書には機密情報や個人情報が含まれることが多いため、入力してよい情報の範囲を明確にし、入力データが学習に利用されないサービスや設定で利用することが重要です。
出力面では、生成AIの出力には誤り(ハルシネーション)が含まれる可能性があるため、AIが作成した内容をそのまま利用せず、担当者や法務部門によるレビュー・承認を経てから利用する運用とすることが求められます。
生成AIのレビュー精度向上や出力の人によるレビュー軽減のため、プロンプトにレビューの観点を明記することなどが考えられます。
こうしたルールを生成AIの利用に関する規程等に定め、教育により従業者へ周知することが望ましいです。