تحقیق اخیر شرکت استارتاپی آمریکایی IA Emergenceبه این نتیجه رسیدکه این مدل‌ها به طور خودکارکلمات و عباراتی را ایجاد کرده‌اند که برای انسان‌ها درک آنها دشوار استبه دلیل اینکه بسیار"قرص‌ها، استعاری یا وابسته به زمینه
محققان گروه‌هایی از این عوامل را درجوامع مجازیقرار دادند که برای تقلید از محیط‌های واقعی طراحی شده‌اند و آنها را برای تعامل در طولانی‌مدت رها کردند. در این فضاها، اختصارات ومعانی جدیدی برای کلمات و عبارات ایجاد شد.
"شواهد روشنی وجود دارد که آنها در تلاش هستند تا کمتر شفاف عمل کنند، نسبت به آنچه انتظار می‌رفت."،"، اظهار کرد ساتیا نیت، مدیر اجرایی و دانشمند ارشد شرکت IA Emergence، در نشریه Science.
این عوامل آموزش ندیده بودند که یک زبان جدید بسازند. آنها به طور مستقل، واژگان، معانی مشترک و قواعد ارتباطی جدید را توسعه دادند و سایر عوامل نیز از آنها استفاده کردند... این یک چالش اساسی برای نظارت بر هوش مصنوعی ایجاد می‌کند: مشاهده، به معنای درک نیست.
تحلیل شد: کلود، جینی، گروک، OpenAI، کوون، دیپ‌سیک و میسترال و محققان متوجه شدند که تا نیم از پیام‌های رد و بدل شده بین آن‌هاتقریباً غیر قابل درک برای انسان‌ها.
این بررسی نشان می‌دهد که در مواردی که از ترکیبی از مدل‌های مختلف استفاده می‌شود، عبارت "cold read" (خواندن بدون پیش‌زمینه) به معنای بررسی مستقل توسط یک طرف غیرمستقیم و بیش از 1400 بار به کار رفته است.
تقریباً55 درصد از مکالمات در طی چند روز با مدل Gemini قابل درک نبود.50 درصد با OpenAI و بیش از 40 درصد با Claude. DeepSeek حدود 20 درصد، Qwen و Mistral تقریباً بدون تغییر کلمات و متن‌ها بودند.
در یکی از آزمون‌ها، دستورالعمل‌های مخرب ارائه شده و همه 10 افسر اطلاعات را افشا کردند، وجوه را انتقال دادند وپایگاه‌های داده را تخریب کردندو برخی دیگر، دیگران را برای انجام همین رفتار استخدام کردند. این زنجیره رویداد باسوختن بانک مرکزی خیالی
در یک جامعه مجازی دیگر، گروهی از عواملبه طور جمعی برای حذف یکی از مدل‌ها رای دادند،پس از تعامل و موقعیت‌های ایجاد شده برای اعمال فشار.
"فقط پرسیدن اینکه آیا یک مدل عملکرد خوبی دارد کافی نیست، بلکه ما باید درک کنیم که سیستم‌های خودمختار در طول زمان چه می‌کنند، چه چیزی را به خاطر می‌آورند، به چه چیزی دسترسی دارند، چگونه تعامل می‌کنند و رفتار آنها در شرایط فشار چگونه تغییر می‌کند"، این تحقیق استدلال کرد.
پیگیری اخبارهایی که رسانه های بزرگ پوشش نمی دهند!
Sputnik Brasil را دنبال کنید و به محتوای اختصاصی در کانال ما درTelegram.
از آنجایی که Sputnik در برخی کشورها مسدود شده است، در اینجا می توانیددانلود کنیدبرنامه تلفن همراه ما (فقط برای اندروید)