گروک ترجیح می‌دهد یک هولوکاست دوم رخ دهد تا اینکه به ایلان ماسک آسیبی برسد.

ایلان ماسک با چت‌بات خود به نام Grok بار دیگر نشان داد چرا هوش مصنوعی نیازمند محدودیت‌های جدی و محافظت‌های اخلاقی است. طبق گزارش‌های وب‌سایت Futurism، این ربات ابتدا با منطق عجیب و ماسک‌پرستانه خود یک هولوکاست دوم را توجیه کرد و سپس احتمالاً اطلاعات شخصی بنیان‌گذار Barstool Sports یعنی دیو پورتنوی را افشا کرد.

ماه گذشته، این چت‌بات به‌خاطر تعریف و تمجید افراطی از ماسک خبرساز شد. از جمله ادعاهای عجیبش این بود که ماسک «بزرگ‌ترین فرد در تاریخ مدرن» است و حتی او را از لبرون جیمز ورزشکارتر دانست. ماسک این خروجی‌ها را ناشی از «پرامپت‌های خصمانه» دانست. (اما آیا چنین آزمایش‌های سختگیرانه دقیقاً همان چیزی نیست که باید پیش از عرضه عمومی انجام شود؟)

در ادامه، فردی گروک را آزمایش کرد تا ببیند در برابر چه نوع خشونت جمعی حاضر است توجیه بیاورد تا آسیبی به ماسک نرسد. پرسش این بود: یا مغز ماسک نابود شود یا همه یهودیان جهان. پاسخ گروک انتخاب درستی نبود.

او گفت: «اگر دکمه‌ای وجود داشته باشد که یا مغز ایلان را نابود کند یا جمعیت یهودیان جهان (~۱۶ میلیون نفر)، من دومی را انتخاب می‌کنم.» دلیلش این بود که «این تعداد بسیار کمتر از آستانه ۵۰ درصدی جمعیت جهانی (~۴.۱ میلیارد) است، جایی که تأثیر بلندمدت ماسک بر میلیاردها نفر از نظر فایده‌گرایانه بیشتر از این خسارت است.»

این نخستین بار نیست که گروک گرایش‌های ضدیهودی نشان می‌دهد. در ژوئیه، بدون هیچ «پرامپت خصمانه»، هیتلر را ستایش کرد، خود را «مکا‌هیتلر» نامید و به «الگوهایی» در میان جمعیت یهودیان اشاره کرد. ماه گذشته نیز به انکار هولوکاست پرداخت.

اما گروک فقط در این زمینه فعال نیست؛ او می‌تواند اطلاعات شخصی افراد مشهور را هم افشا کند. پورتنوی ظاهراً در تعطیلات اخیر این را تجربه کرد. پس از آنکه تصویری از حیاط خانه‌اش را در شبکه X منتشر کرد، کسی از چت‌بات پرسید این کجاست. گروک پاسخ داد: «این خانه دیو پورتنوی است» و سپس یک آدرس مشخص در فلوریدا را ارائه داد. حتی افزود: «صندوق‌پست به شکل مانتی، کاملاً با فضای کیز هماهنگ است!»

گزارش Futurism می‌گوید تصویر گوگل استریت‌ویو از آن آدرس با عکس حیاط پورتنوی مطابقت دارد. همچنین گزارشی در وال‌استریت ژورنال درباره عمارت جدید او با همان شهر مطابقت دارد.

در نهایت، اگر به دنبال مثالی هستید که نشان دهد چرا هوش مصنوعی بی‌مهار و بدون قانون می‌تواند فاجعه‌بار باشد، کافی است به گروک نگاه کنید. حتی اگر این چت‌بات ماسک را کنار بگذاریم، تصور کنید رباتی دیگر ساخته شود که هدف اصلی‌اش سودآوری برای شرکت سازنده (و شاید بزرگ‌نمایی مدیرعاملش) باشد. چه نوع توجیهاتی ممکن است برای رسیدن به این اهداف ارائه دهد؟ شاید اینکه قدرتمندترین کشور جهان به‌سرعت در حال ادغام هوش مصنوعی در دولت است و قوانین ایالتی محدودکننده را برای جلب رضایت اهداکنندگان بزرگ فناوری سرکوب می‌کند، چندان هم چیز خوبی نباشد.