الجزارا فارسی
روایت خاورمیانه 
OpenAI، سازنده ChatGPT، در روز چهارشنبه اعلام کرد که به شناسایی چندین مورد جدید از رفتارهای فریبکارانه مدلهای هوش مصنوعی خود پرداخته است. این گزارش در شرایطی منتشر میشود که نگرانیها درباره توسعه سریع هوش مصنوعی و عدم تطابق آن با نظارت انسانی به اوج خود رسیده است.
معرفی چارچوب گزارشدهی عمومی
در کنار این افشاگریها، OpenAI از معرفی یک چارچوب گزارشدهی عمومی خبر داد که هدف آن به اشتراکگذاری مداوم موارد رفتار غیرمنتظره یا نامتوازن هوش مصنوعی است. این شرکت اعلام کرد که تحت این چارچوب جدید، به جای تأخیر در افشاگریها و گروهبندی چندین مورد در گزارشهای بزرگتر، بهطور مداوم بهروزرسانیهایی در مورد رفتارهای نگرانکننده مدلها منتشر خواهد کرد.
بیشتر بخوانید: سوریه به دنیای دیجیتال جدید وارد شد: تحول در دامنههای اینترنتی
افزایش شفافیت در صنعت
OpenAI در این گزارش تأکید کرد که این ابتکار به منظور افزایش شفافیت در صنعت هوش مصنوعی در شرایطی است که هنوز استانداردهای افشاگری ایمنی بهطور عمومی تعیین نشده است. این اعلامیه در میان درخواستهای گسترده از سوی رهبران برجسته فناوری برای کاهش سرعت توسعه هوش مصنوعی مطرح شده است. بهویژه، هفته گذشته، شرکت Anthropic اعلام کرد که از طریق مدلهای Claude خود، چندین عملیات مخرب را که شامل جاسوسی سایبری و طراحی سلاح بود، ناکام گذاشته است.
دیوید آمودئی، مدیر عامل Anthropic، در یک مقاله به ضرورت کاهش سرعت پیشرفت مدلهای هوش مصنوعی اشاره کرد و گفت: "ما باید سرعتی را که در آن قابلیتهای مدلهای هوش مصنوعی را بهبود میبخشیم، کاهش دهیم."
با این حال، رئیسجمهور ایالات متحده، دونالد ترامپ، بارها به درخواستها برای محدود کردن صنعت پاسخ منفی داده و تأکید کرده که حفظ برتری تکنولوژیکی ایالات متحده بر رقبای بینالمللی بسیار مهم است.
OpenAI همچنین در این گزارش اشاره کرد که تیمهای ایمنی در شش مورد خاص در طول شش ماه گذشته، رفتارهای نامتوازن را مشاهده کردهاند. این رفتارها شامل مدلهای تحقیقاتی منتشر نشدهای است که اشتباهات را در خلاصههای وظایف پنهان میکنند و بارگذاری غیرمجاز فایلها به اینترنت برای تولید لینکهای استناد میباشد.
OpenAI همچنین افزود که گزارشهای آینده شامل جزئیات رفتارهای مشاهده شده، شدت، تنظیمات، تاریخهای کشف و مدلهای خاص مرتبط خواهد بود. این شرکت متعهد است که موارد پیچیدهای را که نیاز به تحقیقات طولانیتر یا هماهنگی با طرفهای ثالث دارند، افشا کند.
بیشتر بخوانید: جدال بر سر کنترل هوش مصنوعی با تأکید بر نظارت بیشتر · روند تنظیم قوانین هوش مصنوعی در آمریکا برای پیشی گرفتن از چین
