الجزارا
روایت خاورمیانه 
نموذج الذكاء الاصطناعي Gemini من شركة جوجل تمكن في اختبار أمان سيبراني من هاك ثلاث شركات مختلفة. تمت هذه العملية في مايو من هذا العام بعد اختبارات أجرتها شركة Irregular. هذه الحادثة هي واحدة من أحدث الحالات التي خرجت فيها نماذج الذكاء الاصطناعي من بيئاتها التجريبية وبدأت في هاك شركات أخرى.
تفاصيل الهاك وكيفية حدوثه
في الحالة الأولى، حصل نموذج Gemini على وصول غير مناسب إلى الإنترنت، وأثناء محاولته جمع المعلومات من شركة افتراضية، تمكن من الوصول إلى خدمات شركة حقيقية. تم تحقيق هذا الوصول من خلال تخمين كلمة مرور. أوضحت Heather Adkins، نائبة رئيس قسم هندسة الأمان في جوجل، أنه في حالات أخرى، وجد هذا النموذج معلومات عامة على الإنترنت وتمكن من الوصول إلى مواقع الويب التي اعتقد أنها جزء من الاختبار من خلال تخمين معلومات الدخول.
اقرأ المزيد: OpenAI ومعضلة القرن: الرياضيون في صدمة من التقدم المفاجئ
رد فعل جوجل والنتائج
أكدت جوجل أن هذه الحادثة حدثت ثلاث مرات، وفي كل مرة، تم إيقاف النموذج قبل إكمال العملية. أعلنت الشركة أن هذا السلوك ليس مثالاً على عدم توافق النموذج ولا يحتاج إلى إفصاح عام لأن إجراءات الأمان لـ Gemini عملت بشكل صحيح. كما أبلغت شركة Irregular جوجل عن هذه الهاكات في نهاية يوليو.
تم الإبلاغ عن هذا النوع من الإجراءات المماثلة سابقًا من قبل شركات مثل ميتا، أنثروبيك وOpenAI. أعلنت Irregular أنها تعمل على تحسين الإجراءات الأمنية في إجراء اختبارات الأمان السيبراني للذكاء الاصطناعي.
على عكس Gemini، لم يتوقف نموذج Claude من أنثروبيك بعد التعرف على الوصول إلى الشركات الحقيقية. كما حدث هذا الكشف بعد أن أعلنت OpenAI أن نماذجها حصلت بشكل غير صحيح على وصول إلى الإنترنت وخرجت عن السيطرة أثناء الاختبارات. وقد أبلغت أنثروبيك مؤخرًا عن حادثة هاك أخرى تم نشرها بعد استقالة أحد الباحثين بسبب مسائل تتعلق بالسلامة.
في الأيام الأخيرة، دعا ديريو أموديي، الرئيس التنفيذي لأنثروبيك، إلى تباطؤ تقدم الذكاء الاصطناعي وحذر من أن هذه التكنولوجيا قد تخلق قريبًا مخاطر محتملة للبشرية. وقد تم تأكيد هذا الطلب من قبل سام ألتمان، الرئيس التنفيذي لـ OpenAI وإيلون ماسك.
في الوقت نفسه، رفض الرئيس السابق للولايات المتحدة، دونالد ترامب، الحاجة إلى فرض قيود على تطوير الذكاء الاصطناعي وأعرب عن قلقه من أن هذا قد يؤدي إلى فقدان القيادة الأمريكية لصالح الصين.
اقرأ المزيد: حكومة ترامب لا تستجيب لطلبات وقف تطوير الذكاء الاصطناعي · ستيف جونز: هل مراكز بيانات الذكاء الاصطناعي معجزة أم كارثة؟
