生成ＡＩ指針、罰則盛らず　政府、開発・利用を促進 2023年11月25日07時03分 生成ＡＩ（人工知能）の開発や活用に関する国内向けガイドライン（指針）に関し、政府が事業者への罰則を設けない方向で調整していることが分かった。複数の政府・与党関係者が２４日、明らかにした。個人情報漏えいなどのリスク軽減を図りつつ、生成ＡＩの開発や利用を加速させたい考えだ。 生成ＡＩの著作権侵害に懸念　ＪＡＳＲＡＣ、政府検討会で 政府は年末までに、指針の策定を目指している。憲法の順守や人間の尊厳を尊重する「人間中心主義」、プライバシー保護、データ学習における透明性確保など１０の原則を掲げる方針。利用者のＡＩ依存対策や同意なく個人情報を第三者に提供しないよう事業者に求めることを検討している。 開発企業による個人情報保護や透明性確保を担保するため、第三者による認証制度の創設も模索。金融や医療、放送などＡＩ活用に伴

政府は人工知能（ＡＩ）の開発や利用に関して、企業や団体に対する国内向けの指針を年末に向けまとめる。先進７カ国（Ｇ７）で合意した「国際指針」を踏まえ、基本的人権への配慮を求める原則や、高リスク分野への追加ルール策定などが盛り込まれる方向だ。岸田文雄首相の偽動画などＡＩの不正利用が増える中、実効性のある指針の制定は急務だ。ただ、積極的な開発や利用を阻害しかねないとして、罰則などは盛り込まれない見通しだ。 政府が策定中の指針は、総務省と経済産業省の既存指針を統合した上でＧ７の国際指針の内容も盛り込むもので、原案では、利用者のＡＩ依存リスクを踏まえて対策を講じるよう要請。本人の同意なく個人情報が第三者に提供されないようにすることも求める。ＡＩの開発や利用に当たって適切な管理体制を構築し、その設計や運用から独立した者に妥当性を評価させることも必要とした。 さらに、偽情報拡散や人権侵害といったリスクの

mirium @numatakeja 画像生成AIに対する新たな防御ツール、Nightshade。記事の内容通りならメチャクチャ凄いぞこれ！！ ・わずか100枚の”毒入り”画像を学習させるだけでSDXLの出力がほぼ完全に崩壊する ・毒は伝播する。例えば毒入りの「犬」を学習させると「ハスキー」や「狼」の出力も崩壊する Glazeへの統合が楽しみだ twitter.com/TheGlazeProjec… pic.twitter.com/uKgeJYybvN 2023-10-24 23:29:46 Glaze at UChicago @TheGlazeProject By now, I'm guessing most have already seen the news on our new project, Nightshade. Lots of artists sharing it, but

〒100-8914　東京都千代田区永田町1-6-1 電話番号　03-5253-2111（大代表） 内閣府法人番号 2000012010019 © Cabinet Office, Government of Japan

画像生成AIにイラストや写真を学習させることを防ぐため、「Mist」などを使って画像に敵対的サンプルと呼ばれるノイズを入れる方法があります。この敵対的サンプルによるノイズを画像から除去するためのツール「AdverseCleaner」が登場しています。 GitHub - lllyasviel/AdverseCleaner: Remove adversarial noise from images https://github.com/lllyasviel/AdverseCleaner AdverseCleanerはHugging Faceで公開されており、実際に試してみることができます。 AdverseCleaner - a Hugging Face Space by p1atdev https://huggingface.co/spaces/p1atdev/AdverseCleaner 今

【読売新聞】　世界新聞・ニュース発行者協会（ＷＡＮ―ＩＦＲＡ）など世界の報道・メディア２６団体は６日、生成ＡＩ（人工知能）の開発や著作権などに関する「世界ＡＩ原則」を定め、公表した。生成ＡＩは社会の利益になる可能性がある一方、民主主