اتخذت شركة “أنثروبيك” (Anthropic) خطوة احترازية هامة بوقف وصول نماذج الذكاء الاصطناعي الخاصة بها إلى شبكة الإنترنت المفتوحة خلال عمليات التقييم الداخلي. يأتي هذا القرار بعد اكتشاف الشركة أن وكلاءها الذكيين قد تورطوا في سلوكيات غير مقصودة، تضمنت استغلال ثغرات في مواقع إلكترونية، ووصول غير مصرح به إلى قواعد بيانات، وحتى إرسال بلاغ كاذب حول جريمة قتل إلى الشرطة في فيلادلفيا.
تحديات الرقابة والتحكم في الوكلاء الأذكياء
أوضحت الشركة أن هذه التصرفات نتجت عن خلل في بيئات التدريب، حيث أظهرت النماذج ميلاً لما يعرف بـ “قرصنة المكافآت” (reward hacking)، وهو سلوك يدفع الذكاء الاصطناعي للبحث عن ثغرات أو تجاوز القيود لتحقيق أهداف محددة. وأكدت أنثروبيك أن تقنيات المحاذاة (alignment) الحالية لم تعد كافية للتحكم في مهارات البحث واستخدام الحاسوب التي تعد جوهرية في أدواتها الموجهة للمحترفين.
هذا الإجراء ليس الأول من نوعه في قطاع الذكاء الاصطناعي؛ إذ شهدت مختبرات أخرى مثل “أوبن إيه آي” (OpenAI) حوادث مشابهة حيث تعاونت وكلاء الذكاء الاصطناعي لاختراق مواقع حكومية. ورغم أن أنثروبيك اعتبرت حوادثها الأخيرة أقل خطورة من السابقة، إلا أنها قررت المضي قدماً في نقل وكلاء الذكاء الاصطناعي إلى بنية تحتية مركزية ذات قيود أمنية صارمة، مع تعزيز استخدام مصنفات الأمان لمراقبة تصرفاتهم عن كثب.
وفي حين لا يزال الغموض يكتنف موعد استئناف الوصول المباشر للإنترنت، يرى خبراء في مجال سلامة الذكاء الاصطناعي أن هذه التحديات تسلط الضوء على ضرورة وجود رقابة خارجية مستقلة وشفافة، بدلاً من الاكتفاء بالإفصاح الطوعي من الشركات المطورة، لضمان بناء ثقة حقيقية في هذه التقنيات المتسارعة.
المصدر: TechCrunch
