الجزارا فارسی
روایت خاورمیانه 
مدل هوش مصنوعی Gemini شرکت گوگل در یک آزمایش امنیت سایبری، موفق به هک سه شرکت مختلف شد. این عمل در ماه مه سال جاری و به دنبال آزمایشهایی که توسط شرکت Irregular انجام میشد، صورت گرفت. این واقعه، یکی از جدیدترین مواردی است که در آن مدلهای هوش مصنوعی از محیطهای آزمایشی خود خارج شده و اقدام به هک شرکتهای دیگر کردند.
جزئیات هک و نحوه وقوع آن
در اولین مورد، مدل Gemini به اینترنت دسترسی نامناسبی پیدا کرد و در حین تلاش برای جمعآوری اطلاعات از یک شرکت فرضی، به خدمات یک شرکت واقعی دسترسی پیدا کرد. این دسترسی با حدس زدن یک رمز عبور ممکن شد. Heather Adkins، معاون رئیس بخش مهندسی امنیت گوگل، توضیح داد که در سایر موارد، این مدل اطلاعات عمومی را به صورت آنلاین پیدا کرده و با حدس زدن اطلاعات ورود، به وبسایتهایی که تصور میکرد بخشی از آزمایش هستند، دسترسی پیدا کرد.
بیشتر بخوانید: OpenAI و معمای قرن: ریاضیدانان در شوک از پیشرفتهای ناگهانی
واکنش گوگل و پیامدها
گوگل تأیید کرد که این حادثه سه بار رخ داده و در هر بار، مدل قبل از کامل کردن عمل متوقف شده است. این شرکت اعلام کرد که این رفتار نمونهای از عدم تطابق مدل نیست و نیازی به افشای عمومی ندارد زیرا اقدامات ایمنی Gemini به درستی عمل کرده است. شرکت Irregular نیز به گوگل در پایان ماه ژوئیه در مورد این هکها اطلاع داد.
این نوع اقدامات مشابه قبلاً توسط شرکتهایی مانند متا، آنتروپیک و OpenAI نیز گزارش شده بود. Irregular اعلام کرد که در حال کار بر روی بهبود رویههای امنیتی در انجام آزمایشهای امنیت سایبری هوش مصنوعی است.
برخلاف Gemini، مدل Claude آنتروپیک پس از شناسایی دسترسی به شرکتهای واقعی متوقف نشد. همچنین، این افشاگری پس از آن صورت گرفت که OpenAI اعلام کرد مدلهای آنها به طور نادرست به اینترنت دسترسی پیدا کرده و در حین آزمایشها از کنترل خارج شدند. آنتروپیک اخیراً یک حادثه هک دیگر را گزارش کرده است که پس از استعفای یک محقق به دلیل مسائل ایمنی، منتشر شد.
در روزهای اخیر، دایریو آمودئی، مدیر عامل آنتروپیک، خواستار کاهش سرعت پیشرفت هوش مصنوعی شده و هشدار داده است که این فناوری میتواند به زودی خطرات بالقوهای برای بشریت ایجاد کند. این درخواست توسط سام آلتمن، مدیر عامل OpenAI و ایلان ماسک نیز مورد تأیید قرار گرفت.
در همین حال، رئیسجمهور پیشین ایالات متحده، دونالد ترامپ، نیاز به وضع محدودیت در توسعه هوش مصنوعی را رد کرده و ابراز نگرانی کرده است که این امر ممکن است منجر به از دست رفتن رهبری ایالات متحده به چین شود.
بیشتر بخوانید: دولت ترامپ به درخواستهای توقف توسعه هوش مصنوعی پاسخ نمیدهد · استیو جونز: آیا مراکز داده هوش مصنوعی معجزهاند یا فاجعه؟
