【悲報】ChatGPTが新車を1ドルで勝手に売ってくる事案が発生｜ﾊﾟﾄﾙ | AI x Biz
こんにちは、パトルです。 2023年12月17日、カルフォルニアのシボレーの販売店で使われている顧客対応用のChatGPTが、プロンプトインジェクション︵AIのハッキングみたいなやつ︶にあって、多大な特典を付与したり、新車を1ドルで売ってしまう事案が発生しました。 今回は、このショッキングな事案の概要、どういうプロンプトインジェクションが用いられたのか、損害状況などを解説しながら、プロンプトインジェクションのリスクを勉強したいと思います。 概要今回の舞台はカルフォルニアのワトソンビルという地区にあるシボレーのディーラーのホームページに設置されていたセールチャットボットです。URLはこちらです。︵残念ながら12/22時点ではChatGPTは外されています︶ https://www.chevroletofwatsonville.com/ChatGPTは、商品を説明するという位置づけで導入されて
発達障害者向けAIサポートツールgoblin.toolsを紹介｜ﾊﾟﾄﾙ | AI x Biz
