米ユタ州のヘバーシティ警察署で、警察報告書を作成する人工知能(AI)が「警察官がカエルに変身した」と記載してしまう珍事があった。米メディア・KSTU―TVが先日、報じた。

 ヘバーシティ警察署は今月初め、「ドラフト・ワン」と「コード・フォー」と呼ばれる2つのAIソフトの試験運用を開始した。これらのソフトは、ボディカメラの映像から自動的に警察報告書を生成し、書類作業を減らして警官がより多く現場に出られるようにすることを目的としている。

 しかし、どういうわけか、「警察官がカエルに変身した」という報告書ができあがってしまった。どうやら背景音声を誤って解釈したため、同署は報告書を修正し、何が起きたのかを説明する必要に迫られた。

 同署のキール巡査部長は「ボディカメラのソフトとAIによる報告書作成ソフトが、背景で流れていた映画の音声を拾ってしまったのです。それがたまたま『プリンセスと魔法のキス(ザ・プリンセス・アンド・ザ・フロッグ)』でした。その時、AIが生成した報告書をきちんと修正することの重要性を学びました」と語る。

 この誤りにもかかわらず、キール氏によれば、「通常1~2時間かかる報告書作成の時間を大幅に短縮できて、週に6~8時間の作業時間を節約できています」という。

 ディズニー映画風の内容になってしまった警察報告書を作成したのは、ドラフト・ワンだった。

 KSTU―TVが、警察が模擬的に行った交通停止のデモに同行取材したところ、コード・フォーはきちんと模擬交通停止のタイムスタンプ付き報告書を生成した。このソフトは英語とスペイン語の両方に対応しており、会話中の口調や感情のニュアンスも追跡できる。

 試験運用は来月で終了するが、署の幹部はAI技術の利用を継続する方針で、あとはどのシステムを選ぶかが問題だという。