AIが、資料にない「窓口の階と番号」を書いていました

障害福祉の制度情報サイト「障害ナビ」では、制度の紹介文をAIが下書きし、人が確認してから公開しています。その確認の途中で、市の資料のどこにも書かれていない情報が下書きに入っていることが分かりました。

何が起きたか

一宮市の8制度の下書きを、収集した公式ページと1件ずつ突き合わせたところ、問い合わせ先の欄にあった「本庁舎2階25番窓口」（3件）と「本庁舎8階」（1件）が、元の資料に記載のない記述でした。

電話番号も課の名前も合っていました。合っていなかったのは場所だけです。同じ下書きの中で、資料に階と番号が書かれていた医療助成課「1階20・21番」や市民税課「3階34番」は、正しく転記されていました。つまり、資料にある分は写し、無い分は形をそろえて埋めていたことになります。

制度の内容でも1件、資料で確認できていない対象範囲を言い切っている箇所があったため、断定をやめました。金額・電話番号・対象者は変えていません。これらはいずれも公開前の下書き段階で、外には出ていません。

どう直したか

消して終わりにすると次の市で再発するので、ルールを1行足しました。

窓口の階や番号は、一次資料に書かれているときだけ書く。電話番号しか確認できなければ、電話番号だけを書く。

そのうえで、次に着手した4市（安城・豊川・刈谷・稲沢）で同じ検査をかけました。安城市では、資料に係名も階も無い項目を「市民税課（軽自動車税担当）」までに留めて番号を作りませんでした。刈谷市では同じ種類の記述が3件見つかり、削除しています。稲沢市の「東庁舎1階」は資料に実在したため残しました。

学び

確認の目は、金額・電話番号・対象者に向いていました。そこは間違っていませんでした。抜けていたのは、その周りを埋める記述です。

「たぶんここだろう」で書かれた階と番号は、読んだ人を実際に別の階へ歩かせます。下書きを疑うときは、間違っていそうな数字ではなく、資料に無いのに書いてあるものを探すほうが早い。この検査は、以降の市でも毎回かけています。