テクノロジー
毎週木曜日、Delve Into AIは、大陸のAIの軌跡がどのように形作られているかについて、ニュアンスに富んだ洞察を提供する。このコラムでは、AIが文化、政策、ビジネスにどのような影響を与えるか、またその逆も然りであることを検証する。アフリカのAIの未来を形作る人々、プロジェクト、疑問についてより賢くなるためにお読みください。
2025年6月27日、ナイジェリアのコンテンツ・クリエイター、アシェルカイン が投稿した。 という一見何の変哲もない動画が投稿された。この投稿が拡散された直後、「ケニー」として知られる匿名のスナップチャット・ユーザーが、動画の女性（後にナイジェリア大学ンスカ校の学生であるイフェメ・レベッカ・ヤホマと判明）が自分のガールフレンドであるという、でっち上げの物語を拡散し始めた。彼はその嘘を裏付けるために、彼女がネット上で公開した写真を加工してディープフェイクを作った。彼女の写真では、ヤホマは頭を少し傾け、唇を尖らせている。ケニー』が生成したモノクロの画像では、彼は自分自身を加工して、まるでヤホマをつついているように見せている。絵文字が彼の顔を覆っている。ケネディは嘘から数万人のフォロワーを獲得し、バイラリティが急上昇するにつれてSnapchatの広告まで出すようになった。
この事件は異常値ではなく、拡大するデジタル氷山の一角だ。ナイジェリアや他のアフリカ諸国では、オンライン・ユーザーがXのGrokのようなAIツールを使って操作している、 性的女性を辱める。以前は粗雑なPhotoshopの仕事であったものが、今ではAIシステムに送り込まれた性的に露骨なプロンプトから作成された写実的なディープフェイクとなり、不穏なほどリアルな結果を生み出している。
テクノロジー ヌードを送ってこないなら、作ればいい
今年初め、あるXユーザーがGrokにナイジェリア人女優Kehinde Bankoleの服を脱がせるよう促した。この投稿は削除される前に広く出回り、彼女のファン層や他のXユーザーに衝撃を与えた。バンコレのような公人が免除されないのであれば、日常の女性はさらに保護されていない。
このようなプロンプトを出した自称メンタルヘルス・コンサルタントのグベンガは、後にXに謝罪スレッドを投稿し、こう述べた：「このような催促をした自称メンタルヘルス・コンサルタントのグベンガは、その後Xに謝罪スレッドを立て、次のように述べた。
反省していようがいまいが、多くの場合男性であるユーザーたちは、ネット上での女性への嫌がらせの中で、XのAIツールに喜んで参加していることを発見している。 告発 反ユダヤ主義的な論評を生み出したとして。このような事件は、被害者に精神的ダメージと風評被害を与えるだけでなく、法的手段もほとんど与えない。
Xのユーザーが、同プラットフォームのチャットボット、Grokに女性の服を脱がせたり、体を改造するよう促している。
テクノロジー 適用される法的保護はありますか？
AIのような急速に進化するテクノロジーが、これまで見られなかったような虐待を可能にしていることに対処するために、新たな法律が必要なのかという質問に対し、法政策アナリストのサム・エレニャは、より微妙なニュアンスでアプローチする必要があると言う。「テクノロジーの新たな進歩を規制する法律が必要だという前提は、必ずしも健全ではありません。「より良い質問は、この新しいツールが既存の法秩序にどのように適合するかということだ」。
Eleanya氏によれば、Grokのようなツールを使って、女性の同意なしに、女性を性的または妥協的な方法で描写することは、以下のような行為に相当する可能性があるという。 名誉毀損罪 刑法第373条から第375条に基づく 刑法.金銭の要求や脅迫があった場合、脅迫、恐喝、共謀があった場合、刑法法第408条に基づき告訴される可能性がある。 2015年サイバー犯罪法 は、サイバーストーカー、ID窃盗、画像ベースの虐待などの行為も対象としており、これらすべてがこれらの新しいシナリオに適用される可能性がある。
しかし、国際商法とクリエイティブ・エコノミーを専門とする企業弁護士、クィーン＝エスター・イフナニャ・エマ＝エグモケイによれば、加害者の責任を追及することは、さまざまな意味で難しいままだという。
訴追は、管轄権の曖昧さによってしばしば複雑化する-加害者がどこで裁かれることになるのか、正確には不明確なままである。利用者は匿名で活動したり、偽名アカウントに隠れたりすることが多いため、身元を確認したり法的手続きを開始したりすることが難しい。
さらにEmma-Egbumokeiは、ナイジェリアには、多くのアフリカ諸国と同様に、嫌がらせや中傷のための生成ツールの悪用を明確に定義し、犯罪とすることができるAI特有の規制が欠如していると指摘する。そのような的を絞った法的枠組みがないため、エンフォースメントはさらに弱まり、被害者は法律のグレーゾーンの中で弱い立場に置かれることになる。
テクノロジー 隠れたコスト
多くのナイジェリア女性が、ユーザーが自分の写真を不適切に加工することを心配し、ソーシャル・プラットフォーム上での自分の存在を再考している。 [to] 私のヒジャブを外す” と書いた。 Xユーザー wluvnana.
この投稿にユーモアを感じるユーザーもいる一方で、彼女は自分が気づき始めた傾向に対する深刻な懸念を表明していた。
“実行可能だと思われる唯一のことは、このような状況から自分を外すことですが、それは馬鹿げています。Xに写真を投稿しようと思えばできるはずなのに、今はもうその力がない」と彼女は後にTechCabalに語った。
加工された写真や動画だけでなく、ジェネレーティブAIを使ったハラスメントは、テキストベースのフォーマットにも現れる可能性があると、デジタルリテラシーとインクルージョンを通じて女性を支援することに焦点を当てた組織、TechHerNGのエグゼクティブディレクター、Chioma Agwuegboは説明する。
「オンライン上には、WhatsAppの会話をシミュレートしたり、SnapchatやTiktokをシミュレートしたりできるプラットフォームがあります」とアグウェグボは言う。”ジェネレイティブ “という言葉は、コンテンツやメディアの創造を意味する。
セックスやセクシュアリティをめぐる恥の文化や、オンラインで共有されるメディアの正確さを評価することがますますできなくなっていることが重なり、永続的なダメージを与えるにはそれほど多くのことは必要ない。だからこそ、女の子を貶めるために最も簡単に言えることは、”彼女とセックスした “とか、”彼女とデートして振られた “ということなのです」とアグエボは言う。
テクノロジー プラットフォームは何をしているのか？
問題の一部は、生成AIが悪用される可能性があるということだけではない。もう一つの根本的な問題は、特にナイジェリアの文脈で起こる誤用を検知する適切なメカニズムが存在しないことだ。
Xは以前、コンテンツのモデレーションに特化した、より強力なトラスト＆セーフティ・チームを持っていた。しかし、2022年10月の買収以来、トラスト＆セーフティ・チームの人数は以下のように減少している。 およそ30％だ。オーストラリアのeSafety Commissionによると、その割合は約30％ である。現在、アフリカには、現地に根ざしたコンテンツモデレーションの取り組みを専門とする地域事務所はない。アフリカの視聴者にサービスを提供するために2021年に事務所が開設されたが、イーロン・マスクが就任した直後に閉鎖された。
これらのプラットフォームは同様に、モデレーションの力仕事をAIに任せている。人間のレビュアーの大規模なチームを雇うよりも、自動化されたツールにモデレーションを任せた方が安上がりで、時には迅速だ。しかし、これらのツールは、特に特定の地域やローカル言語、クレオール言語に関する限られたデータで訓練された場合、ニュアンスや正確さで苦労することがある。
XのユーザーがGrokに「彼女の向きを変えろ」、「彼女の背中を見せろ」、「彼女の服を脱げ」とタグ付けし、ナイジェリア人女性の露骨な画像を生成し始めたとき、そのアカウントを大量に報告することで反撃しようとする者もいた。しかし、何度も同じような冷たい反応が返ってきた：「このアカウントはコミュニティガイドラインに違反していません」。
「これがコミュニティ・ガイドラインに違反していないなら、何が違反しているのですか？彼らのプラットフォームは、私たちナイジェリアの文脈に特有のジェンダー的な危害、私たちのミーム、Xの “バンガー・ボーイズ “が使うスラングを認識することができません。
テクノロジー 他のユーザーができること
Xのようなソーシャル・プラットフォームでAIによるセクハラを規制するのは難しいかもしれないが、無関心な通行人になるのではなく、日常のソーシャルメディア・ユーザーができる対策はある。これは、イバダンを拠点とするソーシャルメディア関係者、ビビアン・ンナブエのようなユーザーが信じていることだ。
Nnabueは、GrokがX上で女性の服を脱がせるよう促す投稿を見たとき、彼女は次のようにした。 リンクトインへの投稿 犯人のアカウントのスクリーンショットとタグ付き, 責任追及を求める
しかし、彼女はLinkedInの投稿にとどまらなかった。加害者たちを上司に報告し、学校に通っていた加害者については、教育機関に報告書を送ったという。誰も応じなかった。
その代わりに、加害者たちは彼女のDMに接触してきた。そのうちの一人であるグベンガは、雇用主が身元調査の際にンナブエのリンクトインの投稿を見つけ、危うく契約を失うところだったと自分のしたことを謝罪した。 [I]私の技術的な知性を発揮したかっただけです」とグベンガはンナブエに書き送った。
テクノロジー フラッグの向こう側
プラットフォームが盲点に対処したとしても、ナイジェリアの法律はまだ遅れていると、エニのような擁護者たちは心配する。ナイジェリアには、このような進化しつつあるジェンダーのハラスメントから人々を完全に保護する強固な枠組みがない。データ保護法やサイバー犯罪法など、既存の法律は範囲が限られている。また、アグウェグボのような擁護者の間では、これらの法律が表現の自由や反対意見の抑圧を正当化するために悪用される可能性があるという懸念が高まっている。
「サイバー犯罪法はありますが、曖昧で強引です。曖昧なので、権力者が金さえあればどうにでも捻じ曲げられる」とアグウェグボは言う。現在、サイバー犯罪法は が使われている。 上院議長によるセクハラに反対する発言をしたナターシャ・アクポティ上院議員に対する訴訟を正当化するために使われている。2023年9月、同法は に対しても使われた。ナイジェリアのブランドErisco Foodsのトマトペースト缶に否定的なレビューを残した女性。
「私たちが実際に必要としているのは、オンライン安全法のようなものです。まず、その用語を定義するものです。インターネットとは何か？デジタルプラットフォームの範囲とは？市民だけでなく、ビッグテックにも説明責任を課すもの。テイクダウンのようなものに対する明確な責任と、若者に対するより良い保護が必要です」とアグエグボは付け加える。
ナイジェリア政府は現在、新しい法律を起草している。 オンライン被害保護法案国家情報技術開発庁（NITDA）が主導している。TechSocietalのような市民社会団体は、特にAIツールによって増幅された、新たな形態のテクノロジーによる虐待に対処するために、この法案を提唱している。
今のところ、多くのナイジェリアの女性は静かに適応している。より強力なルールとより良いプラットフォームの安全対策がテクノロジーに追いつくまで、オンラインで安全に過ごすための負担は、よりリスクの高い人々にのしかかり続けるだろう。
本コラムについて、またアフリカのAIに関連するトピックについて、皆様のご意見をお聞かせください！以下のフォームにご記入ください。 フォームはこちら.
カレンダーに印を！Moonshot by TechCabalが10月15-16日にラゴスで開催されます！アフリカのトップファウンダー、クリエイター、テックリーダーたちと一緒に、基調講演、ミキサー、未来に向けたアイデアを楽しむ2日間を過ごしましょう。早割チケットは今なら20%オフ！moonshot.techcabal.com
