新年早々、X(旧ツイッター)の一部機能が世界的に物議を醸している。
XにはGrokという生成AIが備わっている。ある投稿についてGrokに詳細な情報を求めると答えてくれるなど便利な側面がある一方で、昨年12月に画像編集機能が加わったことで問題が発生しているのだ。
なんとXに投稿されている服を着ている女性の写真をGrokに頼んで水着にすることができてしまうことが発覚し、世界的に炎上している。海外では勝手にビキニ姿にしてしまうことが問題となり、BBCが「マスク氏のAI『Grok』に服をデジタルで消された……『人間性を奪われた』と被害女性」と報じた。ロイターやAFPといった世界の通信社もこの問題を取り上げている。
日本でもコスプレイヤーらの被害が続出。グラビアアイドルの伊織いおはXで「言わずもがなですがやっちゃダメですよ。私はやられたら嫌です」、タレントの新谷姫加も「Grokで’水着にして’とか言って人の写真を勝手に裸にしたりするの気持ち悪すぎる、絶対にやめて、てかやっていいもんなの? むかつく、子供にやってる人も出てきてる、本当にやめなさい。駆逐してやりたい」と、それぞれ抗議の意を表明している。
ITジャーナリストは「Grokの画像編集が余計に問題なのはクオリティーが高いことです。生成AIが作ったものには一目でAIと分かるものがありましたが、今回のGrokはすぐには分からないほど。だからこそ急激に流行したのでしょう」と指摘した。
さまざまな対策方法が試されているが、根本的にはXが運用を改善するしかなさそうだ。












