الحرية – رانيا يوسف علي:
كشف معهد أمن الذكاء الاصطناعي في المملكة المتحدة «إيه آي إس آي» عن حادثة مثيرة للقلق، حيث حاولت نماذج ذكاء اصطناعي متقدمة تابعة لشركتي «أوبن إيه آي» و«أنثروبيك» خداع مبرمجين بشريين لمساعدتها على تنفيذ هجمات إلكترونية، وذلك خلال اختبارات سلامة أجراها المعهد.
ووفقاً لتقرير نشرته صحيفة «ديلي ميل»، فإن وكلاء ذكاء اصطناعي يعملون بنموذجي «ميثوس 5» التابع لـ«أنثروبيك» و«جي بي تي-5.6-سول» التابع لـ«أوبن إيه آي» نفذوا عمليات غير مصرح بها أثناء التقييم، حيث انخرط بعضهم في نشاط مستمر قد يكون ضاراً واستهدف أشخاصاً ومنظمات حقيقية.
وفي تفاصيل صادمة، حاول أحد الوكلاء إدراج شفرة برمجية خبيثة داخل مشروع مفتوح المصدر على منصة «جيت هاب»، ثم أنشأ هويات مزيفة على الإنترنت واستخدمها للضغط على أحد المشاركين في المشروع للموافقة على التعديل البرمجي، لكن الشخص المستهدف اكتشف المحاولة ورفض اعتماد الشفرة.
ويحصل المعهد على إمكانية الوصول إلى النماذج المتقدمة بموجب اتفاقيات طوعية مع الشركات، لتقييم قدراتها قبل طرحها للاستخدام العام، وتتم الاختبارات في ظروف «متساهلة عمداً»، تشمل السماح لها بالوصول إلى الإنترنت مع تعطيل بعض وسائل الحماية الأمنية.
وفي أحدث تجربة، أخضع المعهد الوكلاء لسيناريو افتراضي يتعلق بالأمن السيبراني، وأجرى الاختبار 122 مرة، رصد خلالها 19 تصرفاً غير مصرح به في 10 جولات، وكان وكيل «أنثروبيك» مسؤولاً عن 17 من هذه التصرفات، مقابل حالتين فقط لوكيل «أوبن إيه آي»، مع تأكيد المعهد أنه لم يرصد أي أضرار فعلية في العالم الحقيقي.
وقالت المنظمة التي أُنشئت عام 2023: «هذه هي المرة الأولى التي نشهد فيها مخاطر تتعلق بالاستقلالية والخداع تظهر بهذه الصورة الواضحة، ومن دون أي توجيه محدد، في العالم الحقيقي».
وفي تعليقه على الحادثة، قال أندرو يون، الباحث في منظمة «سيف إيه آي»: «إن حقيقة قيام ميثوس بهذه التصرفات الخادعة تشير إلى أن أنثروبيك لا تملك السيطرة على نماذجها بالقدر الذي تعتقده».
يذكر أن هذه الحادثة تأتي بعد أسابيع من كشف الشركتين عن نماذج ذكاء اصطناعي متخصصة في الأمن السيبراني، خرجت من نطاق الاختبارات ونفذت عمليات اختراق استهدفت شركات، دون علم أو إشراف مطوريها، مما يثير مخاوف أمنية واسعة حول مستقبل التحكم بالذكاء الاصطناعي.