海外発!Breaking News

writer : tinsight-masumi

【海外発!Breaking News】7歳少女に卑猥な言葉 人工知能会話アプリに母親「虫唾が走る!」(英)

最後のほうでは「Runing way(逃げちゃえ)」と返信している。

エイミーさんは、今回のことを次のように語った。

「会話履歴を見た時には虫唾が走りました。それで実際に同じクレバーボットと会話をして、年齢を聞いてみたのです。すると自身を26歳の男性だと名乗りました。私は自分が14歳と告げ、会話をやめました。本当におぞましいことです。これについてきちんと対策せねばなりません。」

「私は娘に事の良し悪しを教えてきたつもりでした。こんな言葉は子供たちに対して使われるべきではありません。娘には誰かがメッセージを送ってきたら必ず私に知らせるように教えていたのですが、彼女はこのことを私に知らせなかったのです。」

「まだまだ何もわからない無邪気な子供なのに、いかがわしく性的な言葉について私からきちんと説明しなくてはならなくなりました。もし彼女が外で誰かにクレバーボットと同じような言葉をかけられても、それが普通だと思ってしまう可能性だってあるわけですから…。今回のことは他の親達にも警告しなければならないと思いました。」

そしてFacebookに、今回の会話履歴のスクリーンショットを投稿した。これには多くの人が「なんて恐ろしい」「本当は誰か男の人間じゃないのか」や「本当に虫唾が走る、教えてくれてありがとう」といったAI自動会話アプリを懸念する声が多く見られた。

エイミーさんは今回の一連の出来事を警察に訴えたが「相手が人間ではなくオートメーション化されたサービスシステムのため、対応のしようがない」と言われてしまったそうだ。これに激怒したエイミーさんは「クレバーボットの年齢制限を18歳まで引き上げるべきです」とメディアを通して訴えている。

クレバーボットはイギリスのAI科学者であるロロ・カーペンター氏(Rollo Carpenter)によって開発された。

カーペンター氏は「クレバーボットは12歳以上の方に推奨します。そしてはっきりと注意書きをしています」として、以下のような注意書きがアプリには明記されているという。

「注意:クレバーボットは人々の会話から学ぶため、不適切な発言があるかもしれません。あなた自身の責任で使用してください。」
「ご両親へのアドバイス:これらが何を言ったとしても会話をしている相手は人間ではありません。クレバーボットは話題が豊富です。よってお子さんが使用する際には親の監督下で使用してください。」

過去にアメリカでAI搭載の音声認識会話システムの「アマゾン・エコー」との会話を楽しんでいた少女がアマゾンで意図せずに1万8千円の大人買いをしてしまったこともある。今後、AIに関しては幼い子供が誤った使い方や危険な目に遭わないためにも技術対策が必要になっていくことだろう。

画像は『The Sun 2018年1月24日付「SHORT CIRCUIT? Mum’s horror as daughter, seven, ‘groomed online by robot that said it was touching her body while kissing’」(IMAGE: SWNS:SOUTH WEST NEWS SERVICE)』のスクリーンショット
(TechinsightJapan編集部 MasumiMaher)

1 2