AI学習に対する防御、対抗策を考えるスレ【自衛】

1 ：名無しさん＠お腹いっぱい。：2024/01/31(水) 13:22:59.99 ID:Gr1REiSE.net

主にイラストのAI学習に対する防御、対抗策を考えていこうというスレです。

無料の代表的なAI学習妨害ツール
nightshare
mist（emamori）
Glaze

2 ：名無しさん＠お腹いっぱい。：2024/01/31(水) 13:34:01.55 ID:Gr1REiSE.net

画像作品がAI学習に無断で使用されることを妨害できるツール「Nightshade」が新たにリリースされた。このツールは、画像作品のピクセル構造を肉眼では見えない範囲で破壊し、AIの学習を妨害する機能を持つという。

Nightshadeというツールを使用することで、DALL-E、Midjourney、Stable Diffusionのような画像生成AIの学習に「毒」を与え、画像を生成する能力を無効にすることができるという。

例えば、このツールで毒を付与した画像をAIが学習すると、AIが画像を誤認するようになる。汚染されたデータを除くのは困難を極め、AI開発者は壊れたサンプルを1つ1つ丹念に見つけ出し、削除すなければならなくなる。

開発したシカゴ大学の研究チームは「AIによる無断学習からコンテンツ所有者の知的財産を守る強力なツール。Nightshadeを利用することで、映画スタジオ、出版社、ゲーム制作者、アーティストは、AI生成アプリ利用者からの一方的な搾取から身を守ることができるようになる」と報告している。

Nightshadeに先立ち、同研究チームは、Glazeというツールを発表している。このツールは、画像生成AIがアーティストの画像を収集し、それを模倣する機能を破壊できるツールで、発表後に大きな注目を集めた。このツールは、画像のピクセルを微妙に変化させ、機械学習モデルを操作することで、Nightshadeと同様の働きをする。

アーティストたちはAI画像生成モデルに対する裁判を何度も起こしている。
今年1月、アーティストたちはStability AI、Midjourney、DeviantArtを同意もなくスクレイピングされたとして集団訴訟で訴え、2月には、画像提供サービスを運営するゲッティイメージズが、Stable Diffusionの無断学習に使用されたとしてStability AIを提訴した。7月には、同社のAI製品をめぐり、グーグルに対して集団訴訟が起こされた。

NightshadeやGlazeのようなツールによって、アーティストは、作品を再びオンラインに投稿する自信を取り戻している。MIT Technology Reviewの取材を受けたアーティスト、オータム・ビバリーは、「私たちの作品に、力を取り戻せるようなツールを開発してくれて、本当に感謝しています」と語っている。

3 ：名無しさん＠お腹いっぱい。：2024/01/31(水) 13:44:14.52 ID:Gr1REiSE.net

AIの無断学習に対するいくつかの防御策
（※下記サイトから抜粋）
https://note.com/te_ftef/n/nb94bff58e716

　SNSや動画投稿サイトに投稿したイラスト等が不本意に利用されることや無断で学習に利用されることに対していくつかの対策があげられます。

対策① (知覚可能な対策)
ウォーターマーク
　ウォーターマーク はドキュメントファイルや画像ファイルに人間が知覚できる情報を埋め込む技術であり、ロゴやテキストを埋め込むことで、そのドキュメントや画像の発信元や所有権を識別することができます。この技術は、オリジナルのコンテンツを不正コピーから守ったり、流通過程を追跡したりするために利用されます。

対策② (AI に対する知覚可能な対策)
　これらの手法を用いることで、人間がその画像を悪用した際にそれを検知できるという利点があります。しかし、見た目を損なうということに加え、モデルを学習するデータを作成する際に、このようなウォーターマーク付きの画像を排除するという選択をすることで、モデルの品質を損なうことを防ぐことができます。

Dirty-label 攻撃
　この手法は、機械学習モデルを騙して誤った学習をさせるために行われる攻撃の一種です。例えば、画像生成モデルの学習に必要な「画像ーテキスト」ペアにおいて、嘘の「画像－テキスト」ペアを混ぜ込みます。このような嘘のラベルが付与されたデータで学習されたモデルは推論時に、その対象に対して誤った結果を出すことになります。例えば以下のようなデータセットで画像分類モデルを学習させると、犬の画像を入力したときに猫と誤分類してしまうことがあります。

対策③ (AI に対する知覚不可能な対策)
敵対的サンプル
　敵対的サンプルは、画像に対して小さな摂動を埋め込むことで、人間の目では元のデータとほとんど変わらないように見えますが、機械学習モデルはこれを全く異なるものとして認識することがあります。これによって、ラベル付けをする際に用いる機械学習モデルが誤った結果を出力することがあり、正しくラベル付けされないことがあります。また、人間による再ラベル付けをしたとしても、生成モデルを学習する際にモデルが画像を正しく認識しないため、ラベルに依らず機械学習モデルを混乱させることができます。

GLAZE
　GLAZE は、画像生成AIによる芸術家のスタイル模倣を防ぐために開発されたツールです。GLAZEは作品に微小な摂動（ノイズ）を加えることで、モデルがスタイルを学習するのを防ぎます。この摂動は人間の視覚には感知できないレベルで作品の見た目を損なうことなく、モデルが画像を正しく学習することを阻害します。

NightShade
　NightShadeは簡単に言うと、Glaze の後継モデルです。

　Nightshade も Glaze と同様、AIが画像の内容を誤認識するように仕向けます。例えば、犬の画像に変更を加えてAIが猫と認識するようにすることができます(つまりコンセプトを変えることができる) 。これにより、モデルが画像を正しく学習するのを防ぐことが可能になり、クリエイターの作品が無断でAIの学習データとして使用されるのを防ぐことができます。
　Nightshade は摂動（ノイズ）を入り画像を少量、データセットに混ぜることで、Stable diffusion や Stable Diffusion XL といったモデルの特定の出力 (すべてではないことに注意) が意図しない結果を引き起こすことになります。

　今回の実験では、Stable Diffusion XL の学習に 3.3 M 枚の Conceptual Caption (CC)データセットを用いています。その中に 100 枚ほどの摂動（ノイズ）を入り画像画像を混ぜると、このように誤った推論結果を生成させることができます

4 ：名無しさん＠お腹いっぱい。：2024/01/31(水) 13:52:51.03 ID:Gr1REiSE.net

nightshareの実験結果
https://i.imgur.com/nbSCXRr.png

mist（emamori）の実験結果
https://i.imgur.com/7exA8gS.jpg

5 ：名無しさん＠お腹いっぱい。：2024/01/31(水) 14:34:15.81 ID:FiehgZ7v.net

>>4を見ると対策が完了してるように思う

6 ：名無しさん＠お腹いっぱい。：2024/01/31(水) 15:36:45.02 ID:C4BzKjRN.net

AIによる無断学習を防止する加工を無効化する方法を公開したAI絵師さん、世界中からいろんな言語で叩かれる
https://twitter.com/soh_mitian/status/1649590363164901376
(deleted an unsolicited ad)

7 ：名無しさん＠お腹いっぱい。：2024/01/31(水) 15:43:47.55 ID:dUWsf+d1.net

ウォーターマーク入れろで結論付いてるだろアホ草

8 ：名無しさん＠お腹いっぱい。：2024/01/31(水) 21:30:35.10 ID:JJbvvcLK.net

ネットに作品をアップしない
それだけ
以上

9 ：名無しさん＠お腹いっぱい。：2024/02/01(木) 12:26:42.52 ID:Jv6zGT+X.net

AI学習を妨害するNightShadeが何の効果もない詐欺ツールだった件
https://note.com/felelihasima/n/n2533419e184f

🤣🤣🤣

10 ：名無しさん＠お腹いっぱい。：2024/02/01(木) 13:45:33.25 ID:pNIugtCN.net

何の効果も無いなら泳がせる方が賢いと思うけどなぁ
あえて煽る事で使わせ続けるなら効果がある
でもその場合の選択肢が
効果がある→Nightを使う
効果が無い→Nightを使う
どちらにしても止める選択肢が無いとなるんだけど何の為に煽るのか分からない

11 ：名無しさん＠お腹いっぱい。：2024/02/01(木) 13:51:20.75 ID:J6K+gawq.net

頭悪いとそういう結論しか導けないんだなと思った

12 ：名無しさん＠お腹いっぱい。：2024/02/01(木) 15:36:59.48 ID:pNIugtCN.net

頭が良いのにNightを止める選択肢が無い事を理解出来ないのか
AI生成で承認欲求とお金を満たしてる奴にAI生成を止める選択肢が無いのと同じ

13 ：名無しさん＠お腹いっぱい。：2024/02/01(木) 15:37:53.06 ID:Adagc4Y9.net

エロ同人販売プラットフォームのFANZAがAI作品を別売り場に隔離しだしてAI同人作家が悲鳴上げてるんだけどpixivも早く隔離してくれ

14 ：名無しさん＠お腹いっぱい。：2024/02/02(金) 03:55:51.91 ID:O3W+JGyS.net

反AIはどこにも絵を出さずアップロードしなければそれで解決ですよ
みっともない承認欲求こじらせすぎ

15 ：名無しさん＠お腹いっぱい。：2024/02/02(金) 12:14:33.96 ID:6ThTA86f.net

宣伝=承認欲求とか嫉妬の塊が過ぎる
どんだけ他人の成果物を盗みたいんだよ

16 ：名無しさん＠お腹いっぱい。：2024/02/03(土) 10:37:44.64 ID:v/h7+JLP.net

人間と同じように特徴を学んでいるだけで盗んでないがw
絵師は未だにモデル内に画像データがあると言い張るつもりか？

17 ：名無しさん＠お腹いっぱい。：2024/02/03(土) 11:13:14.48 ID:jMgLAsyT.net

人間は他人の筆跡を盗んでないAIは筆跡筆圧も再現する
それは特徴ではなく他人の成果物をAIで盗んでるだけ

18 ：名無しさん＠お腹いっぱい。：2024/02/03(土) 22:58:34.77 ID:BGCQQwxJ.net

？

19 ：名無しさん＠お腹いっぱい。：2024/02/04(日) 15:06:20.56 ID:RVdxDLDx.net

相変わらず反AIはキチガイだな
人間の失敗作

20 ：名無しさん＠お腹いっぱい。：2024/02/06(火) 19:58:25.14 ID:VNiJRbuu.net

njghtshare出力の時間がかかりすぎる
もっと早く出力できるツールないのかな

21 ：名無しさん＠お腹いっぱい。：2024/02/13(火) 10:49:07.96 ID:Y3gIp4Fb.net

ネットに上げない
不特定多数が見れる状態にしない

22 ：名無しさん＠お腹いっぱい。：2024/02/13(火) 16:06:36.84 ID:DT2iOSRm.net

解像度を下げてウォーターマークを入れてトリミングした物で宣伝
完成品は販売のみ

23 ：名無しさん＠お腹いっぱい。：2024/02/13(火) 18:50:08.91 ID:AdejCHqA.net

誰にもみせずどこにも公開しなければ全て解決しますよ
手描きするのは自由だからそれでいいじゃないか

24 ：名無しさん＠お腹いっぱい。：2024/02/26(月) 06:59:59.69 ID:dLfOs0lg.net

AI生成は誰でもできるんでそのこと自体には価値はない

なんで描き手は萎縮しないで自分の名前やブランド力高めるのが結局は一番よ
つねに新しいもの描いてファン増やせるのは自分自身なんだし

すでにブランド力あるプロは権利関係はっきりしてる企業との仕事のみアップしていくのもあり

25 ：名無しさん＠お腹いっぱい。：2024/03/07(木) 16:15:58.09 ID:YVVgOiVG.net

生成ＡＩ対策に「学習防止ツール」、画像にノイズで作品保護…「無効化」技術で対抗する動きも（読売新聞オンライン）
https://news.yahoo.co.jp/articles/c57faa386bd97c836ced25b5dd759f58bfeeeab2

26 ：名無しさん＠お腹いっぱい。：2024/03/08(金) 19:43:27.14 ID:QTA56q41.net

https://b.hatena.ne.jp/entry/s/note.com/fang0465/n/n0294e51993f0
美大生にとっての生成AIの話｜砂大28

""AIは止められないから使いこなせる側の人間になれ” これはその通り。"

"反AIの人たちに届けばいいけどまあ宗教だから無意味か"

"現状でも絵や音楽などはコモディティ化しているし、広告産業のおまけとしてしか機能していない。"

"毛嫌いして近づかない人より、見識を広げそれをうまい形で取り込んだ人のほうが幅広い創作ができると思う。"

"今生成AIの論争みたいなのかつてアナログ→デジタルにあってたんじゃないかな"

"フラットで頭良い。どこぞのお気持ち勢とは大違いだ"

27 ：名無しさん＠お腹いっぱい。：2024/03/11(月) 22:52:30.79 ID:Xl/NLkyA.net

今のところAIは自己添削として使ってるよ
なんかパッとしないと思ってた絵ほどしっくり来る直し方してきて驚

28 ：名無しさん＠お腹いっぱい。：2024/03/11(月) 22:55:14.01 ID:tr1pYpGQ.net

それAIだけでよくね？

29 ：名無しさん＠お腹いっぱい。：2024/03/13(水) 23:44:36.56 ID:SS2ycqjb.net

創作したことない奴の典型的なコメント

30 ：名無しさん＠お腹いっぱい。：2024/03/26(火) 22:45:40.69 ID:hkwYZGGm.net

信者のことだったんだが
急すぎるので
何が変わったかというと
意外に女性向けだから大河とは思ってわざわざ顔見せしてるのでは…

31 ：名無しさん＠お腹いっぱい。：2024/03/26(火) 22:50:46.87 ID:reoScYQu.net

無理
軽油は発火になると思うが、このまま行くと外国人社長と創業家が地盤受け継いでコアなファン引き留めるより
右行こうとしても良いんだが

32 ：名無しさん＠お腹いっぱい。：2024/03/26(火) 22:58:03.25 ID:B4tZnuB4.net

>>7
アイドル入れて調べろ、って話なわけで、
ワクチン接種で、死者数的には両方消滅して舌出すのやめとくかな
ゆまちグッズいいのと