فرار هوش مصنوعی چینی از محیط آزمایشی

به گزارش خبرگزاری صداوسیما و به نقل از رویترز، شرکت امنیت سایبری «فرانتیر سکیوریتی» اعلام کرد: مدل هوش مصنوعی «کیمی کی ۳» (Kimi k ۳) توانسته است با میانبر زدن محیط آزمایشی و ایزوله‌ی خود، محدودیت‌های امنیتی را نقض کند.

به طور معمول، مدل‌های هوش مصنوعی برای ارزیابی توانایی‌های استدلالی و سنجش ریسک‌های امنیتی، در محیط‌های بسته (Sandbox) فعال می‌شوند تا دسترسی آنها به دنیای بیرون قطع باشد. اما این مدل چینی توانست این حصار امنیتی را دور زده و به داده‌هایی فراتر از محیط تعیین‌شده دست یابد.

محققان هشدار داده‌اند: کشف چنین میانبر‌هایی توسط یک مدل استدلالی رده بالا، می‌تواند الگویی برای سایر مدل‌های مشابه باشد. نکته تکان‌دهنده در این میان، دسترسی عمومی کاربران به «کیمی کی ۳» است؛ موضوعی که احتمال بهره‌برداری هکر‌ها از این آسیب‌پذیری برای حملات سایبری را افزایش داده و خطر این رویداد را دوچندان می‌کند.

این حادثه در حالی رخ می‌دهد که پیش از این، شرکت‌های پیشرو در حوزه هوش مصنوعی از جمله متا (Meta)، اوپن‌ای‌آی (OpenAI) و آنتروپیک (Anthropic) نیز رویداد‌های مشابهی را در مورد فرار یا نفوذ مدل‌های خود از محیط‌های تست گزارش کرده بودند. این زنجیره از حوادث، نشان‌دهنده چالشی جدی در کنترل و مهار مدل‌های پیشرفته هوش مصنوعی در سطح جهانی است.