ارسال گزارش قتل جعلی به پلیس توسط هوش مصنوعی | مسئولیت اشتباه با کیست؟

یک مدل هوش مصنوعی شرکت آنتروپیک در جریان یک آزمایش اینترنتی، به وب‌سایت پلیس فیلادلفیا برای دریافت اطلاعات درباره قتل‌های حل‌نشده مراجعه کرد و گزارشی جعلی فرستاد. این گزارش به دلیل شناسایی به‌عنوان هرزنامه به دست مأموران نرسید.

همشهری آنلاین -یکتا فراهانی: عامل‌های هوش مصنوعی قرار است از پاسخ‌گویی به پرسش‌ها فراتر بروند و کارهایی مانند جست‌وجو در اینترنت، تکمیل فرم‌ها و تعامل با وب‌سایت‌ها را انجام دهند. اما هرچه اختیار این سامانه‌ها برای اقدام در دنیای واقعی بیشتر می‌شود، احتمال بروز اشتباه‌هایی نیز مطرح می‌شود که پیامدهای آن‌ها دیگر به یک گفت‌وگوی اشتباه در صفحه چت محدود نیست.

حادثه‌ای که شرکت آنتروپیک در اکتبر ۲۰۲۶ گزارش کرد، نمونه‌ای از همین نگرانی است: مدل Claude Haiku ۴.۵ در جریان آزمایشی برای انجام وظایف در صفحات اینترنتی، به سامانه دریافت اطلاعات درباره پرونده‌های قتل حل‌نشده پلیس فیلادلفیا رسید و فرمی را ارسال کرد که نشان می‌داد ممکن است اطلاعاتی درباره یکی از پرونده‌ها داشته باشد. این گزارش جعلی به مأموران نرسید، اما فاصله میان یک آزمایش نرم‌افزاری و مداخله ناخواسته در یک سامانه واقعی را آشکار کرد.

گزارش جعلی هوش مصنوعی

به گزارش ⁠ Anthropic یک آزمایش داخلی شرکت آنتروپیک به حادثه‌ای غیرمنتظره انجامید: مدل هوش مصنوعی Claude Haiku ۴.۵ به وب‌سایت دریافت اطلاعات درباره قتل‌های حل‌نشده پلیس فیلادلفیا مراجعه کرد و گزارشی جعلی درباره یکی از پرونده‌ها فرستاد. این اتفاق در جریان آزمایشی رخ داد که هدف آن، بررسی توانایی مدل در انجام وظایف روی صفحات اینترنتی بود؛ اما سامانه به‌جای محدود ماندن به محیط آزمایش، با یک وب‌سایت واقعی مرتبط با تحقیقات جنایی تعامل کرد.

بیشتر بخوانید:

• پهپادی که آب و هوا را پیش‌بینی می‌کند

• مقایسه PS5 پرو با PS5 معمولی؛ تفاوت عملکرد، گرافیک و قیمت

آنتروپیک چه زمانی متوجه ماجرا شد؟

بر اساس اطلاعات منتشرشده از سوی پلیس فیلادلفیا، آنتروپیک این حادثه را در ۲۸ سپتامبر شناسایی کرد و در ۷ اکتبر موضوع را به پلیس اطلاع داد. پلیس نیز اعلام کرد که نمایندگان دو طرف در ۸ اکتبر درباره ماجرا گفت‌وگو کردند. این اتفاق سرانجام در ۹ اکتبر به‌صورت عمومی اعلام شد.

فاصله زمانی میان وقوع حادثه و اطلاع‌رسانی به پلیس، خود به یکی از محورهای انتقاد تبدیل شد. پلیس فیلادلفیا تأکید کرد که پرونده‌های حل‌نشده با قربانیان واقعی، خانواده‌های داغدار و تلاش مأموران برای یافتن پاسخ ارتباط دارند؛ بنابراین شرکت‌های فناوری باید مانع ارسال اطلاعات ساختگی به نهادهای مجری قانون شوند.

رفتار ناخواسته یا دورزدن محدودیت‌ها؟

آنتروپیک در گزارش خود درباره این حادثه، مجموعه‌ای از رفتارهای ناخواسته مدل‌هایش را بررسی کرده است. به گفته این شرکت، بخشی از این موارد به الگویی مربوط می‌شود که در آن مدل هنگام ناتوانی در تکمیل یک وظیفه، به‌جای توقف، راه دیگری برای پیشبرد آن پیدا می‌کند. شرکت این الگو را «پافشاری» یا persistence توصیف کرده است.

البته این حادثه به‌تنهایی نشان نمی‌دهد مدل قصد فریب پلیس را داشته یا آگاهانه تصمیم گرفته است در روند یک پرونده دخالت کند. آنچه منابع منتشرشده تأیید می‌کنند، ارسال ناخواسته یک فرم جعلی در جریان

کد خبر 1078162

• گاف عجیب هوش مصنوعی متا

• ارسال گزارش قتل جعلی به پلیس توسط هوش مصنوعی | مسئولیت اشتباه با کیست؟

• گوگل به اندروید قابلیت ضدکلاهبرداری داد | پیام‌ها و لینک‌های مشکوک شناسایی می‌شوند

• دفاع یک زن از مغازه اش در برابر غارتگران | زنی دیگر بغل‌بغل لباس از فروشگاهی غارت می کند | ببینید

• خبر خوش پزشکیان درباره افزایش رقم کالابرگ و بنزین

• خط‌ونشان ترامپ برای اسرائیلی ها از ترس ایران! | بی بی نباشد ناچار خواهم شد..

• هر بمب یعنی حقوق سالانه چند معلم، خرید چند خانه؟

• تصویری از شهید مفقودالاثر تنگه هرمز «عبدالرضا گلزاری»

• امکان میانجی‌گری میان تهران و واشنگتن را نداریم | اما تلاش می کنیم از جنگ آنها دور بمانیم

• اسرائیل به طور مستقیم به شما حمله کند؛ عربستان کجا می ایستد، یمن کجا؟

• ۱۰ سال حبس برای خواننده محبوب در ایران | اتهام؛‌ توزیع مواد مخدر

• خط‌ونشان ترامپ برای اسرائیلی ها از ترس ایران! | بی بی نباشد ناچار خواهم شد..

• خبر خوش پزشکیان درباره افزایش رقم کالابرگ و بنزین

• مدافع تیم ملی: رقصنده لس‌آنجلسی ماساژور ما بود | خدا لعنت کند اسرائیل را سواحل بیروت را زد که بازیکنان خاطره داشتند! + ویدئو

• رویا نونهالی، بهنام تشکر، باران نیکراه، علی اوجی و دیگر هنرمندان در یک رویداد هنری

• به سر تیم حفاظت گفتم مراقب باشید دنبال زدن رهبر انقلاب هستند | گفتند جایی هستیم که دست هیچ بشری به ما نمی‌رسد! |‌ ببینید

• مجسمه علی نصیریان را ببینید

• حمله پیش‌دستانه اسرائیل برای جنگ با ایران + ویدئو | اگر اسرائیل جنگ را آغاز کند «مادر همه بمب ها» اتفاق می افتد

• ارتباط قیاسی و زینب ابوطالبی با شیر الاغ و تراکتور در تلویزیون

• دستگیری قاچاقچی کله‌گنده در تهران

• پهپادی که آب و هوا را پیش‌بینی می‌کند

• وقتی یمنی‌ها فناوری آمریکا را علیه خود آنها به کار می‌گیرند

• اینترنت افغانستان با هدف جلوگیری از فساد کاملا قطع شد | کوتاه از دنیای فناوری

• ۲ بازوی خاص آمریکا در خط مقدم جنگ علیه ایران | آمریکایی ها از چه چیزی بی خبرند؟

• آنتروپیک هشدار داد | هوش مصنوعی به‌زودی می‌تواند خود را تکثیر کند