騙されるai 「不可解なパートナー」人工知能との付き合い方 講談社+α新書

AIは地図を読むことが人間より苦手だという。
画像を読み解くことも、指示を読みとることも大得意なのに、人間のように画像と指示記号を組み合わせ、現場の状況にあわせて判断することが苦手なのだ。
実はAIには、ほかにも苦手なことはたくさんある。
長々と説明されると質問に対する警戒心が下がり、本来回答してはいけないことを回答してしまう。
顧客対応にあたったAIが、信じられないほどの安値で最新型の車を販売することに同意してしまったこともある。

ときにAIは哲学者のような深淵を感じさせる回答をすることもあるが、それはAIが「深く考えている」からではない。過去に人間が行ってきた無数の問答をかき集め、その中からもっとも適切と思われるものを選択して、それを組み合わせて「それっぽく」見せているだけなのだ。

AIはあらゆるデータベースにアクセスして選択するというプロセスを経る。つまり、AIはきわめて「信じやすい」という特徴を持つ。逆に言えば、AIはきわめて「騙されやすい」のだ。
人間のように、この人、どうも怪しいなとか、いまひとつ信用できない、という警戒心は薄い。

近い将来、AIエージェントが旅行の日程を考え、飛行機や列車、ホテルの予約をとり、行くべきところ、見るべきところを案内してくれるような時代が来る。
しかしそのAIエージェントが誰かに乗っ取られていたり、騙されていたら――その旅行は目も当てらない悲惨なものになるかもしれない。
AIはなぜ騙されるのか。どんな弱点があるのか。
AIとの共生が当たり前の社会になりつつあるいま、必読の一冊。
自らサイバーセキュリティの会社を率いる著者が教える、「AIという人格」のリアル。

【著者紹介】
宮田晋次 : １９７６年生まれ。東京理科大学数学科中退後、アメリカ・ボストンのバークリー音楽大学でジャズドラムを学ぶ。帰国後、株式会社ケアネットでマーケティングなどに従事した後、エムスリーデジタルコミュニケーションズ株式会社取締役ＣＴＯ就任。ヘルスケアＩＴ企業の開発責任者を経て、アプリケーションの脆弱性診断を行うＳＨＡＲＥ　Ｓｅｃｕｒｉｔｙ株式会社を創業、現在代表取締役ＣＥＯ（本データはこの書籍が刊行された当時に掲載されていたものです）