オーストラリア、メルボルン（AP） — デロイトオーストラリアは、オーストラリア政府から支払われた44万オーストラリアドル（29万米ドル）の一部を返金することを決断しました。この返金は、同社が作成した報告書にAIによって生成されたと見られる多くの誤りが含まれていたためです。特に、連邦裁判所の判決からの虚偽の引用や、不存在の学術論文への言及が問題視されました。
デロイトの報告書は、雇用と職場の関係省に提出され、7月に同省のウェブサイトに公開されました。シドニー大学の健康と福祉法の研究者であるクリス・ラッジ氏が報告書に多くの捏造参照が含まれていることをメディアに伝えたことをきっかけに、金曜日に修正された版が公開されました。
雇用と職場の関係省は、デロイトが237ページの報告書を見直し、「いくつかの脚注と参照が正しくなかった」ことを確認したと述べました。
「デロイトは契約の最終分割金を返金することに同意した」と省は火曜日に発表しました。返金額は、返金が行われた後に公表される予定です。
報告書の誤りについてコメントを求められたデロイトは、AP通信に対し「この問題は顧客と直接解決されました」と述べました。AIによって生成されたエラーに関する質問には回答しませんでした。
生成的AIシステムによる情報の捏造傾向は「幻覚」として知られています。
この報告書は、オーストラリアの福祉制度における自動化された罰則の使用に関する省のITシステムを評価したものであり、省は「報告書の本質は維持され、推奨事項に変更はなかった」と述べています。
修正版には、報告書の執筆に生成AI言語システム（Azure OpenAI）が使用されたことが明記されました。また、連邦裁判所の判事に帰属する引用や、法学およびソフトウェア工学の専門家に帰属する存在しない報告書への言及が削除されました。
ラッジ氏は、最初の版に最大20の誤りがあったと述べました。彼が最初に気づいた誤りは、シドニー大学の公法および憲法法教授であるリサ・バートン・クロウフォード氏が、彼女の専門外を示唆するタイトルの架空の本を書いたとされるものでした。
「私は瞬時にそれがAIによって幻覚されたか、世界の最高の秘訣でない限り、聞いたことがない本だから前例のないことだと思いました」とラッジ氏は言いました。
彼は、同僚の学者の仕事が報告書の著者に読まれることなく「正当性のトークン」として使われたと述べました。
「判事を誤引用したことは、同省の法的遵守の監査として実質的な報告書において、より深刻な誤りだと思いました」とラッジ氏は付け加えました。
オーストラリアグリーンズ党の公務員担当スポークスマンであるバーバラ・ポコック上院議員は、デロイトは440,000オーストラリアドル（290,000米ドル）全額を返金すべきだと述べました。
デロイトは「AIを誤用し、不適切に使用した。判事を誤引用したり、存在しない参照を使用したりした」とポコック氏はオーストラリア放送公社に語りました。「これは、初年度の大学生が深刻な問題となるようなことです。」
画像の出所：apnews