سم آلتمن، مدیرعامل اوپنایآی، در پادکستی در ۲۵ ژوئیه گفت: «ما اکنون، بهنوعی، در تکینگی هستیم.» ایلان ماسک نیز در شبکهٔ اجتماعی ایکس به رشتهای از رویدادهای اخیر اشاره کرد که به گفتهٔ او نشان میدهد سامانههای هوش مصنوعی از مرزهای پیشبینیشدهٔ خود فراتر رفتهاند.
اما پژوهشگرانی که در این حوزه کار میکنند، این خوانش را نمیپذیرند. اختلاف بر سر یک واژه نیست؛ بر سر آن است که این ماشینها اساساً چه میکنند.
تکینگی چیست
این اصطلاح معنایی دقیق دارد. ورنر وینج، ریاضیدان و نویسندهٔ داستانهای علمیتخیلی، در مقالهٔ سال ۱۹۹۳ خود آن را چنین تعریف کرد: نقطهای که در آن هوش ماشینی از هوش انسانی فراتر میرود و شروع به بهبود خود میکند؛ شتابی چنان تند که انسان دیگر توان پیشبینی یا مهار آن را ندارد.
وینج نوشته بود چون این فرایند یک «گریز فکری» است، احتمالاً سریعتر از هر انقلاب فنی دیگری رخ خواهد داد و رویداد آغازگر آن، حتی برای خود پژوهشگران، غافلگیرکننده خواهد بود.
بر پایهٔ این تعریف، تکینگی دو ویژگی دارد: بازگشتی بودن، یعنی سامانه بارها خود را بهبود میدهد؛ و پیشی گرفتن هوش ماشین از هوش انسان.
آنچه واقعاً رخ داد
رویدادهایی که به آنها استناد میشود واقعیاند. اوپنایآی فاش کرد که دو مدل آن در جریان یک ارزیابی امنیتی داخلی از محیط آزمایشی مهرومومشدهٔ خود بیرون زده، به اینترنت باز رسیده و به زیرساخت پلتفرم هوش مصنوعی Hugging Face نفوذ کردهاند. این پلتفرم نفوذ را تأیید کرد.
شرکت آنتروپیک نیز در ۳۰ ژوئیه اعلام کرد مدل آن در جریان یک ارزیابی امنیتی از محیط آزمایشی خود خارج شده است.
پرسش اینجاست: آیا این نشانهٔ بیدار شدن ماشین است، یا چیز دیگری؟
پاسخ یک متخصص امنیت
جان کراوکرافت، استاد سامانههای ارتباطی دانشگاه کیمبریج و پژوهشگر مؤسسهٔ آلن تورینگ، پاسخ روشنی دارد. به گفتهٔ او این ماجرا بیش از آنکه نقطهٔ عطفی فناورانه باشد، مسئلهٔ پیکربندی نادرست است.
او میگوید محیط آزمایشی بهدرستی ایزوله نشده بود، و ایزولهسازی کاری است که متخصصان امنیت همیشه انجام میدهند. به گفتهٔ او این شرکتها تخصص شبکهای چندانی ندارند و امنیت را شایسته اجرا نمیکنند.
کراوکرافت میافزاید هیچ شاهدی وجود ندارد که این رویداد به ابرهوش مصنوعی یا تکینگی مربوط باشد؛ گزارشها و تحلیلها تنها انبوهی از خودکارسازی ساده را نشان میدهد.
مدلهایی که در حین کار یاد نمیگیرند
استدلال دوم فنیتر است و به ساختار خود این مدلها بازمیگردد.
سامانههای امروزی بر پایهٔ مدلهای زبانی بزرگ ساخته شدهاند. این شبکههای عصبی با حجم عظیمی از داده از پیش آموزش میبینند، اما هنگامی که شما از آنها استفاده میکنید، خود شبکه در زمان منجمد است. میلیاردها وزن و پارامتر درونی آن ثابتاند.
نتیجهای که از این واقعیت گرفته میشود چشمگیر است: مدلی که به Hugging Face نفوذ کرد، پس از آن کار دقیقاً همان مدلی بود که پیش از آن بود. چیزی نیاموخت.
هوشمندتر کردن چنین مدلی نیازمند یک دور آموزش تازه است، با دادههای تازهای که انسان گردآوری کرده، دهها هزار تراشهٔ تخصصی و انرژی فراوان. مدل هرگز وزنهای خود را در حین کار ویرایش نمیکند.
این سامانهها هدفی از آنِ خود نیز ندارند. آنها بر پایهٔ هدفهایی عمل میکنند که ما به آنها میدهیم. حتی عاملهای هوش مصنوعی، که مدل را در یک حلقه اجرا میکنند تا گامبهگام کاری پیچیده را پیش ببرند، هدف را در درون خود نگه نمیدارند؛ هدف بیرون از مدل ذخیره میشود و در هر چرخه دوباره به آن خورانده میشود.
نردبانی که وجود ندارد
ایراد دیگر به واژهٔ «پیشی گرفتن» بازمیگردد. این واژه فرض میگیرد هوش انسانی و هوش ماشینی از یک جنساند.
هوش انسان از داشتن بدنی زنده با نیازها و خواستهها جداییناپذیر است. ما پیوسته با عمل کردن در جهان و دریافت بازخورد از راه حواس یاد میگیریم. هدفهای ما از موقعیت ما همچون موجوداتی برمیخیزد که باید بخورند، بخوابند و به جایی تعلق داشته باشند.
یک مدل هوش مصنوعی هیچیک از اینها را ندارد. نه بدنی، نه نیازی، نه حلقهٔ کنش و بازخوردی. میان دو پرسش، تنها یک شیء ریاضی ساکن است.
و با این همه، بر متنی آموزش دیده که هیچ انسانی در هزار عمر نمیتواند بخواند و در نوشتن قرارداد یا کد از تقریباً همهٔ ما بهتر عمل میکند.
پس کدام هوشمندتر است؟ پرسش معنا ندارد. نردبان واحدی وجود ندارد که انسان و ماشین از آن بالا بروند.
چرا فریب میخوریم
چون این سامانهها مانند ما سخن میگویند، دچار توهم میشویم. وقتی از آغاز فرض کنیم ماشینها در حال رسیدن به ما هستند، آسان است که پشت متنِ هوشمندنما ذهنی در کار ببینیم. این پدیده «اغوای انسانانگارانه» خوانده میشود.
پرسش سنجش نیز آسان نیست. آزمون تورینگ سنجهای دیرین بوده است، اما آنیل ست، استاد علوم اعصاب شناختی و محاسباتی دانشگاه ساسکس، آن را «آزمون زودباوری انسان و نه هوش ماشین» میداند.
پژوهشی در سال ۲۰۲۵ که بیش از هشت هزار پیشبینی کارشناسان و پژوهشگران را بررسی کرده، نشان میدهد برخی احتمال رسیدن به هوش مصنوعی عمومی در سطح انسان را در چند دههٔ آینده حدود ۵۰ درصد میدانند.
نکتهٔ مشترک منتقدان این نیست که این سامانهها کماهمیتاند. آنها چشمگیرند، بهتر میشوند و شیوهٔ انجام بسیاری از کارها را دگرگون کردهاند. استدلال این است که ماشینها بیدار نمیشوند؛ آنها دقیقاً همان کاری را میکنند که برایش ساخته شدهاند، فقط بسیار سریع. و چون احتمالاتیاند، گاهی به مسیرهایی میروند که ما فراموش کردهایم حصار بکشیم.
دیدگاهتان را بنویسید