エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
記事へのコメント69件
- 注目コメント
- 新着コメント
petronius7
一見、面白い技術であるが、本質的には人間がどういう特徴を見ているかという話なので、JPEG2000やWebPのような人間の認識特性に基づいた高効率の画像圧縮=ノイズ除去をすれば簡単にAIが認識可能になるはず。
north_korea
このノイズは学習済みのネットワークを使って逆算して作ってるので当然騙せる。これを既存のシステムに使おうとしても出力に対する入力の微分が計算できないので騙すのはむずかしいとおもう。
yoshikie
引用してる「敵は海賊」の話とこの学習方法のつながりがよく分からなかった。人間には無意味に見える情報から機械が別の意味を見つけるのが共通点、ってことかな?にしてもAIあんまり関係ない気がする
warabe_miz
対処法は簡単だよ。これは、画像データをそのまま取り込むことでノイズを拾ってしまい誤認識が起きる、という問題。だから、読み取る前に一旦スキャニングソフトを通して画像データを新規作成すればノイズは消せる。
●AI
naoto_moroboshi
すぐ自動運転の話出す人いるけど信頼性より責任の所在と保険の(法律)問題でしょ。人間が運転してたって事故ったりけが人死亡者もいるけど100%安全じゃないから免許だしませんってならないじゃん。勘違いしてるよね
filinion
結構前から話題になってる話だけど、それってAI全般に有効なんだっけ? 特定の学習モデルにだけ有効なのでは? 顔認識を妨害するメガネ、みたいなのはあるけど、それとはちょっと違う気が宇するし。https://bit.ly/2JUUSOA
●人工知能
knok
シール貼る程度で道路標識の認識を狂わせられるものや、どの角度から見ても誤認識させるサンプルもできている https://youtu.be/piYnd_wYlT8 ある程度対応はできるけど精度とトレードオフになる
sds-page
関数の中身がわかってればホワイトボックステストでチェックをすり抜けるテストパターンも作れるけど、中身のわからないブラックボックステストだと大量のパターンを用意した試行と判定結果がないとハックできないよ
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
いまの話題をアプリでチェック!
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
AIの認識をだませる『敵対的機械学習』の話がもうSFの世界「人間には同じ画像に見えるのに」
ウチューじん・ささき @uchujin17 攻撃的機械学習 Adversarial Machine Learning (AML)なんて用語が出来...
ウチューじん・ささき @uchujin17 攻撃的機械学習 Adversarial Machine Learning (AML)なんて用語が出来ていたのか。そしてAMLに対抗すべくCounter-AML AIが導入されているという。﹁敵は海賊﹂の世界はもう現実になっていたんだな。 2020-12-05 03:51:06 リンク Wikipedia Adversarial machine learning Adversarial machine learning is a machine learning technique that attempts to fool models by supplying deceptive input. The most common reason is to cause a malfunction in a machine learning model
2020/12/11 リンク