آنتروپیک از نزدیک شدن هوش مصنوعی به خودبهبودی خبر داد

شرکت آنتروپیک هشدار داد که احتمالا به‌زودی هوش مصنوعی می‌تواند روند توسعه نسل‌های پیشرفته‌تر خود را به‌شکل چشمگیری سرعت ببخشد.

همشهری آنلاین، فرخنده رفائی: هوش مصنوعی در حال تبدیل شدن به ابزاری برای ساخت نسخه‌های قدرتمندتر خودش است؛ روندی که می‌تواند سرعت پیشرفت این فناوری را افزایش دهد، اما هم‌زمان نگرانی‌های تازه‌ای درباره توانایی انسان برای نظارت و کنترل آن ایجاد می‌کند. شرکت سازنده کلود اکنون می‌گوید احتمال دارد به آستانه‌ای نزدیک شده باشد که در آن، هوش مصنوعی شتابی بی‌سابقه به توسعه مدل‌های جدید می‌دهد.

به گزارش تک‌کرانچ، شرکت آنتروپیک در نسخه اصلاح‌شده اسناد ثبت عرضه اولیه سهام خود در کمیسیون بورس و اوراق بهادار آمریکا، درباره نزدیک شدن به مرحله‌ای هشدار داده است که در آن استفاده از هوش مصنوعی برای توسعه مدل‌های پیشرفته‌تر می‌تواند سرعت توسعه این فناوری را به‌طور چشمگیری افزایش دهد.

این مرحله با اصطلاح «خودبهبودی بازگشتی» (Recursive Self-Improvement) شناخته می‌شود. در این وضعیت، هوش مصنوعی به‌اندازه‌ای در توسعه و آموزش مدل‌ها توانمند می‌شود که بتواند به بهبود نسخه‌های بعدی خود کمک کند و در نتیجه، روند پیشرفت فناوری شتاب بگیرد.

آنتروپیک در اسناد خود اعلام کرده است که استفاده فزاینده از هوش مصنوعی در پژوهش و توسعه داخلی ممکن است باعث شود توانایی مدل‌ها سریع‌تر از ظرفیت این شرکت برای تدوین، ارزیابی و اجرای تدابیر ایمنی و امنیتی افزایش یابد. این شرکت همچنین اذعان کرده است که در گذشته، شتاب قابل‌توجه در پیشرفت مدل‌ها را تا پس از وقوع آن تشخیص نداده است.

بیشتر بخوانید:

• هوش مصنوعی در فهرست ۱۰ ترس بزرگ آمریکایی‌ها قرار گرفت
• عضو هیئت‌مدیره «اوپن‌ای آی»: برای کنترل هوش مصنوعی آماده نیستیم
• درخواست عجیب مدیرعامل آنتروپیک از غول‌های فناوری | ترمز هوش مصنوعی را بکشید!

برآوردهای داخلی آنتروپیک نشان می‌دهد این شرکت ممکن است به‌زودی به تعریف سیاست مقیاس‌پذیری مسئولانه خود از «پیشرفت به‌شدت شتاب‌گرفته ناشی از هوش مصنوعی» برسد. بااین‌حال، آنتروپیک تأکید کرده است که هنوز هیچ‌یک از مدل‌های فعلی خود را فراتر از این آستانه ارزیابی نکرده و همچنان داده‌های مرتبط را بررسی می‌کند.

این شرکت در عین حال اعلام کرده است که فعلا انتظار ندارد بتواند بدون نظارت یا درک معنادار انسانی، نسل‌های متوالی مدل‌های پیشرفته را به‌طور کاملا خودمختار طراحی و تولید کند. آنتروپیک در حال بررسی تغییراتی در سیاست‌های ایمنی خود است تا نقش انسان در توسعه مدل‌های پیشرفته حفظ شود.

با وجود این، برخی منتقدان یادآوری می‌کنند که اسناد عرضه اولیه سهام علاوه بر افشای اطلاعات، می‌توانند جنبه تبلیغاتی نیز داشته باشند. بنابراین، نزدیک بودن به چنین مرحله‌ای هنوز به معنای تحقق خودبهبودی بازگشتی نیست.

کد خبر 1082890 منبع: همشهری آنلاین

• هشدار به جنایتکاران | زودتر این شرکت‌های اسرائیلی را ترک کنید

• بررسی سلامت رگ‌ها با دوربین موبایل | برچسب هوشمند، جایگزین دستگاه‌های سنجش عروق می‌شود

• یخچال سوپرمارکت‌ها، هدف سایبری

• بومی سازی دانش «پیرولیز پسماندهای پلاستیکی» با سرمایه گذاری موسسه دانش بنیان برکت

• Kimi فقط یک چت‌بات معمولی نیست | از کدنویسی تا تحلیل مالی | رقیبی که نمی‌خواهد از GPT عقب بماند

• آنتروپیک از نزدیک شدن هوش مصنوعی به خودبهبودی خبر داد

• نوید محمدزاده: ما توی جنگ پارتی هم می‌کردیم | من با سینمای ایران حال نمی‌کنم

• ترامپ: مجبور شوم تعداد زیادی انسان را می‌کشم

• دستور مهم عارف برای تغییر نام دریای خزر | مهم‌ترین نام‌های پیشنهادی

• فوری؛ آمریکا حمله به قشم را تایید کرد | جزئیات حملات علیه ایران به گزارش وال استریت ژورنال

• با دستور محسنی‌اژه‌ای، اجرای حکم توقیف دارایی‌های صندوق ذخیره فرهنگیان متوقف شد

• شلیک پدافند ایران به جنگنده آمریکایی | اعتراف آمریکا به هدف قرار گرفتن هواپیماهای جنگی توسط ایران

• هشدار قالیباف: پاسخ ایران پیش‌بینی‌ناپذیر خواهد بود | کور خوانده‌اید؛ ایران تسلیم نمی‌شود

• ترامپ: مجبور شوم تعداد زیادی انسان را می‌کشم

• دستور مهم عارف برای تغییر نام دریای خزر | مهم‌ترین نام‌های پیشنهادی

• ترامپ: ما دیگر پولی به اسرائیل نمی دهیم؛ کمک ها در این تاریخ قطع می شود

• حمید علیدوستی با سرطان فوت نکرد او با یک سرما خوردگی ساده..| ببینید

• تصاویری از حضور فوتبالی‌ها در تشییع حمید علیدوستی؛ از تاج و علی دایی تا مایلی کهن و نبی | ویدئو

• تکان‌دهنده: مرگ تلخ بازیکن اسپانیایی | لحظه برخورد مرگبار را ببینید

• واکنش فوری گلری که باعث مرگ مهاجم حریف شد + عکس

• استایل و پوشش مهیا دهقانی در جشنواره فیلم مقاومت

• دلار امروز ۳۷۶ تومان رشد کرد

• آخرین هشدار خلبان زن قبل از سقوط جت آمریکایی چه بود؟ + ویدئو