كشفت شركة OpenAI عن حملة تأثير مرتبطة بإيران، استُخدمت خلالها أدوات الذكاء الاصطناعي لإعداد مقالات وتقديمها إلى مؤسسات إعلامية حقيقية، بهدف تمرير محتوى يبدو في ظاهره مواد صحفية اعتيادية، في واقعة تسلط الضوء على تصاعد مخاطر استغلال الذكاء الاصطناعي في الدعاية الرقمية والتأثير في الرأي العام.
ووفقًا لتقرير نشره موقع «ديجيتال تريندز»، رصدت OpenAI نحو 100 مقال نُشرت أو أُعيد نشرها عبر قرابة 12 موقعًا إعلاميًا حول العالم، وتناولت موضوعات مرتبطة بالصراع الأمريكي الإيراني، دون أن تتمكن الشركة من تحديد الجهة المسؤولة عن العملية بشكل قاطع.
ChatGPT استُخدم في إعداد المقالات والتواصل مع المحررين
لم يقتصر استخدام ChatGPT على كتابة المقالات، بل امتد إلى مراجعة المسودات المكتوبة باللغة الإنجليزية وتعديلها بما يتناسب مع متطلبات المؤسسات الإعلامية المختلفة، إلى جانب إعداد رسائل البريد الإلكتروني المستخدمة في عرض المواد على المحررين.
وساعدت هذه الإمكانات على تكييف المحتوى مع أساليب النشر المختلفة، وإعادة تقديم المقالات إلى منصات متعددة، بما يزيد فرص وصولها إلى الجمهور من خلال قنوات إعلامية قائمة بالفعل.
كما اعتمدت الحملة على سبع هويات صحفية مزيفة لتقديم المقالات، وأنشأت بعض هذه الشخصيات حسابات على مواقع التواصل الاجتماعي لإضفاء مزيد من المصداقية على هويتها. وأشارت OpenAI إلى أن ChatGPT ساهم في إعداد السيرة الذاتية لإحدى هذه الشخصيات، بما يساعد على تقديمها باعتبارها مساهمًا صحفيًا حقيقيًا.
كيف وصلت المقالات المضللة إلى الصحف الحقيقية؟
تكمن خطورة الواقعة في أن المحتوى لم يقتصر على مواقع إخبارية مجهولة، بل وصل إلى مؤسسات إعلامية حقيقية من خلال قنوات التعاون المعتادة بين غرف الأخبار والجهات التي تقدم لها مواد صحفية.
وذكرت صحيفة «واشنطن بوست» أن إحدى المقالات وصلت إلى صحيفة «بورت سانت جو ستار» عبر منظمة «بيس فويس»، التي تعاونت معها الصحيفة لسنوات. وأوضح ناشر الصحيفة أنه لم يتحقق بصورة مستقلة من هوية الكاتب أو مصدر المقال، اعتمادًا على العلاقة السابقة مع المنظمة.
وتكشف هذه الواقعة عن ثغرة محتملة في إجراءات التحقق الإعلامي، إذ قد تستغل الجهات التي تقف وراء حملات التأثير علاقات التعاون القائمة مع المؤسسات الصحفية لتمرير محتوى دون إخضاع هوية كاتبه ومصدره للفحص الكافي.
OpenAI تحظر الحسابات المرتبطة بالحملة
عقب اكتشاف الحملة، حذفت بعض المواقع المقالات محل الجدل، فيما شددت منظمة «بيس فويس» سياساتها المتعلقة باستخدام الذكاء الاصطناعي.
وأعلنت OpenAI حظر الحسابات المرتبطة بالعملية، إلى جانب مشاركة المعلومات المتعلقة بالحملة مع السلطات المعنية، في إطار جهود التعامل مع إساءة استخدام أدوات الذكاء الاصطناعي في عمليات التأثير والتضليل.
وتوضح هذه الإجراءات أن مواجهة الحملات المضللة لا تعتمد فقط على اكتشاف النصوص التي أنشأها الذكاء الاصطناعي، بل تتطلب أيضًا تتبع الحسابات المستخدمة، والتحقق من الجهات التي تقف وراء المحتوى، وفحص الطريقة التي وصل بها إلى المؤسسات الإعلامية.
لماذا يصعب اكتشاف المقالات المضللة المكتوبة بالذكاء الاصطناعي؟
أصبحت أدوات الذكاء الاصطناعي قادرة على إنتاج نصوص سليمة لغويًا ومكتوبة بأسلوب احترافي، وهو ما يجعل اكتشاف المحتوى المضلل من خلال الصياغة وحدها أمرًا صعبًا.
فقد يبدو المقال متماسكًا من الناحية اللغوية، بينما تكمن المشكلة في هوية الكاتب أو الجهة التي تقف وراءه أو المعلومات التي يتضمنها، وليس بالضرورة في طريقة كتابته.
لذلك، لا يكفي الاعتماد على أدوات كشف النصوص المولدة بالذكاء الاصطناعي وحدها، بل ينبغي أن تشمل إجراءات التحقق مراجعة هوية المساهمين، وفحص المصادر والبيانات الواردة في المقالات، والتأكد من صحة المعلومات قبل نشرها.
كما أن وجود سيرة ذاتية مقنعة أو توصية من جهة مألوفة لا يمثل دليلًا نهائيًا على مصداقية الكاتب أو المحتوى الذي يقدمه.
الذكاء الاصطناعي يغير أساليب الدعاية والتضليل الإعلامي
تعكس هذه الحادثة تحولًا في أساليب الدعاية الرقمية، إذ لم يعد التضليل مقتصرًا على نشر أخبار كاذبة عبر حسابات مجهولة، بل أصبح من الممكن محاولة إدخال محتوى موجّه إلى المؤسسات الإعلامية نفسها، مستفيدًا من الذكاء الاصطناعي في إنتاج المقالات وتعديلها وإعداد المراسلات اللازمة لتقديمها للنشر.
وتفرض هذه التطورات على غرف الأخبار تعزيز إجراءات التحقق من هوية الكتّاب والمساهمين، ومراجعة مصادر المواد الصحفية، والتأكد من صحة المعلومات قبل إتاحتها للجمهور.
وفي ظل التطور المتسارع لأدوات الذكاء الاصطناعي، أصبحت حماية مصداقية العمل الصحفي مرتبطة بقدرة المؤسسات على التحقق من مصدر المحتوى وسياقه، وعدم الاكتفاء بجودة الصياغة أو المظهر الاحترافي للمادة المنشورة.
