مع التطور السريع في تقنيات الذكاء الاصطناعي، ظهرت فئة جديدة من الأدوات تُعرف باسم وكلاء الذكاء الاصطناعي، وهي أنظمة قادرة على تنفيذ مهام متعددة نيابة عن المستخدم مثل التسوق الإلكتروني ومقارنة الأسعار وإدارة بعض الخدمات اليومية.
لكن تقريرًا حديثًا صادرًا عن هيئة Competition and Markets Authority في المملكة المتحدة حذّر من أن الاعتماد الكامل على هذه الأنظمة قد يعرّض المستخدمين لمخاطر مختلفة إذا لم يتم استخدامها بحذر.
لماذا يجب الحذر عند استخدام وكلاء الذكاء الاصطناعي؟
أشار التقرير إلى عدد من النقاط التي تدعو المستخدمين إلى التفكير قبل منح هذه الأنظمة صلاحيات واسعة لإدارة القرارات اليومية أو المالية:
1. التوجيه نحو مصالح الشركات
قد يقوم وكيل الذكاء الاصطناعي بترشيح منتجات أو خدمات تحقق أرباحًا أكبر للشركات المطورة، بدلًا من اختيار ما يناسب المستخدم بشكل أفضل.
2. احتمالية الأخطاء في النتائج
تعتمد هذه الأنظمة على نماذج لغوية كبيرة مثل Large Language Model ، والتي قد تنتج أحيانًا معلومات غير دقيقة أو ما يُعرف بـ”الهلوسة الرقمية”، مما قد يؤدي إلى قرارات خاطئة.
3. التحيز في البيانات
إذا تم تدريب النظام على بيانات غير متوازنة أو منحازة، فقد يعكس هذا التحيز في توصياته، وهو أمر قد يصعب على المستخدم اكتشافه.
4. الاعتماد المفرط على التكنولوجيا
قد يؤدي الاستخدام المستمر إلى ثقة مفرطة في الذكاء الاصطناعي، ما يقلل من مراجعة المستخدم لقراراته ويزيد من احتمالية الوقوع في أخطاء.
5. تأثير الخوارزميات على الأسعار
يمكن لأنظمة التسعير الآلية أن تقلل من المنافسة بين الشركات، مما قد يؤدي إلى ارتفاع الأسعار بشكل غير مباشر.
6. مخاطر الخصوصية والبيانات
تتطلب هذه الأنظمة الوصول إلى كميات كبيرة من البيانات الشخصية للعمل بكفاءة، وهو ما يثير مخاوف تتعلق بالأمان وحماية الخصوصية.
ماذا يعني ذلك للمستخدمين؟
رغم هذه التحذيرات، لا تهدف الجهات التنظيمية إلى إيقاف استخدام هذه التقنيات، بل إلى تنظيمها وضمان استخدامها بشكل آمن وشفاف.
وينصح الخبراء المستخدمين بالاعتماد على خدمات توضح حدود قدرات الذكاء الاصطناعي، وتمنحهم تحكمًا كاملًا في بياناتهم، مع ضرورة مراجعة أي قرارات يتم اتخاذها عبر هذه الأدوات خاصة في الأمور المالية أو الشخصية المهمة.
وفي النهاية، يمكن للذكاء الاصطناعي أن يوفر الوقت والجهد، لكن يظل الاستخدام الواعي والمراجعة البشرية عنصرًا أساسيًا لتجنب المخاطر المحتملة.
