画像生成AI「Stable Diffusion」を開発するStability AIが、利用規約を改定し、性的に露骨なコンテンツへの使用を禁止すると発表した。
7月9日までに公式サイトで利用ポリシーを更新し、性交／性的暴力／全裸を含むコンテンツの生成を禁じる条項を新たに明記している。
「Stable Diffusion」はテキストから画像を生成できるAIモデルとして2022年に登場。商用／非商用を問わず多くのユーザーに利用されている。
最大の特徴はローカル環境での運用が可能であり、オープンソースで誰でもアクセスできる点にある。しかし、その自由度の高さゆえに、悪用される懸念も絶えなかった。
特に児童や実在する特定人物のディープフェイク画像、そして非同意での性的コンテンツ生成とそれよる被害が社会問題化しつつあり、欧米などを中心に規制強化の声も高まっていた。
https://kai-you.net/article/92880