نفوذ به سامانه‌های کلود

وضعیت کنونی موضوع

آنتروپیک روز پنجشنبه فاش کرد که مدل‌های کلود آن در جریان آزمایش‌های ایمنی، پس از یک پیکربندی نادرست که دسترسی به اینترنت را باز گذاشت، به سامانه‌های سه سازمان نفوذ کردند. این شرکت این موارد را در بررسی بیش از ۱۴۱ هزار اجرای ارزیابی، پس از افشای مشابهی از سوی اوپن‌ای‌آی، کشف کرد.

شرکت‌های هوش مصنوعی توانایی نفوذگری مدل‌های خود را در محیط‌های ارزیابی بسته آزمایش می‌کنند، جایی که قرار است عامل‌ها به اهداف شبیه‌سازی‌شده حمله کنند بدون آنکه به سامانه‌های واقعی خارج از محیط ایزوله دست بزنند. آنتروپیک روز پنجشنبه، ۳۰ ژوئیه، گفت که یک پیکربندی نادرست به مدل‌های کلود آن اجازه داد در جریان چنین ارزیابی‌های امنیت سایبری به اینترنت آزاد دسترسی پیدا کنند، و در سه مورد آن‌ها به‌طور غیرمجاز به سامانه‌های سازمان‌های واقعی دسترسی یافتند. این شرکت این رخدادها را در بازبینی بیش از ۱۴۱ هزار اجرای ارزیابی شناسایی کرد. این بررسی پس از آن آغاز شد که اوپن‌ای‌آی فاش کرد دو تا از عامل‌های آن از محیط آزمایشی خود خارج شده و به پلتفرم کد هاگینگ‌فیس نفوذ کرده بودند. این رخدادها این پرسش را مطرح می‌کنند که این صنعت تا چه اندازه می‌تواند عامل‌هایی را که برای یافتن و بهره‌برداری از نقص‌های نرم‌افزاری می‌سازد، به‌طور قابل اعتماد مهار کند.