ChatGPTめぐる｢プロンプトインジェクション｣攻撃とは何か。セキュリティー専門家が警鐘、2023年に急増予想も

テクノロジーカテゴリーの変更を依頼記事元:

www.businessinsider.jp

40 usersがブックマークコメント

コメント

4

記事へのコメント4件

注目コメント
新着コメント

filinion ChatGPTに皮を被せただけの「企業用チャットボット」から皮を剥がされるかも知れない、という話。そんなに心配なら、他人のふんどしで相撲を取るのやめたらいいのでは。

2023/04/26 リンク

deejayroka “基本的に出力を厳しくするしかないため｢プロンプトインジェクションに対応したWebアプリケーションファイアウォールのような製品が、今後出てくる可能性もある｣と話す。”

2023/04/25 リンク

oreokun 「プロンプトが知的資産になりうる」それは十分ありそうだし、人間生活が便利になると言うことは悪意のある人にとっても同じことな訳で。

2023/04/25 リンク

shunkeen 水飲み場型のプロンプト・インジェクション攻撃とか出てくるのかな。ChatGPT pluginsが一時的に編集されたWikipediaのページを読み込んで、そこに仕掛けられたプロンプトにしたがって、別のpluginを呼び出して情報漏洩とか。

AI
文章

2023/04/24 リンク

注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています

規約違反を報告

アプリのスクリーンショット

いまの話題をアプリでチェック！

バナー広告なし
ミュート機能あり
ダークモード搭載

アプリをダウンロード

関連記事

ChatGPTめぐる｢プロンプトインジェクション｣攻撃とは何か。セキュリティー専門家が警鐘、2023年に急増予想も

ChatGPTを社内導入する企業が増えるなかで、アプリやWebサービス自体に﹁ChatGPTが組み込まれる﹂時代はも... ChatGPTを社内導入する企業が増えるなかで、アプリやWebサービス自体に﹁ChatGPTが組み込まれる﹂時代はもう始まりつつある。これはChatGPTに限らず、他の大規模言語モデル︵LLM︶も含めての、ビジネス環境の変化だ。エレクトロニクス・情報通信専門商社のマクニカは4月21日、﹁ChatGPT悪用によるサイバーリスク﹂セミナーを開いた。5月15日からオンライン開催する﹁Macnica Security Forum 2023﹂に先駆けて、メディア向けに課題提起をした形だ。マクニカセキュリティ研究センター主幹の凌翔太氏によると、現在考えられるChatGPTを悪用した攻撃シナリオは、大きく2つあるという。1つは﹁攻撃者によるChatGPTの悪用﹂、もう1つは、今後増えるであろう﹁ChatGPTを組み込んだシステムに対する攻撃﹂だ。どんな攻撃があり、その対策はどういう手法なのか。

ブックマークしたユーザー

shortsleep2023/05/02
kumicho242023/05/01
qinmu2023/04/30
naggg2023/04/28
k_wizard2023/04/26
filinion2023/04/26
poad10102023/04/25
karkwind2023/04/25
reirei-bijin2023/04/25
mixvox-j2023/04/25
deejayroka2023/04/25
muneo10022023/04/25
oreokun2023/04/25
andsoatlast2023/04/25
shikousakugo882023/04/24
koma22023/04/24
dhesusan46492023/04/24
ardarim2023/04/24

同じサイトの新着

同じサイトの新着をもっと読む

いま人気の記事

いま人気の記事をもっと読む

いま人気の記事 - テクノロジー

いま人気の記事 - テクノロジーをもっと読む

新着記事 - テクノロジー

新着記事 - テクノロジーをもっと読む

設定を変更しましたx