پس از معرفی هوش مصنوعی ChatGPT و درک و دریافت پتانسیل‌های مفید و مخرب آن، حالا بیش از 1100 نفر از جمله افراد سرشناس نامه‌ای سرگشاده را امضا کرده‌اند که در آن از همه آزمایشگاه‌های هوش مصنوعی خواسته شده فوراً حداقل به مدت 6 ماه پروسه آموزش مدل‌های خود را متوقف کنند.

تا زمان نگارش این مطلب، بیش از 1100 امضاکننده از عموم گرفته تا افراد شاخصی چون ایلان ماسک، استیو وزنیاک و تریستان هریس، کارزاری امضا کرده‌اند که در آن از همه آزمایشگاه‌های هوش مصنوعی می‌خواهد فوراً حداقل به مدت 6 ماه آزمایش مدل‌های هوش مصنوعی قدرتمندتر از GPT-4 را متوقف کنند.

GPT-4

در بخشی از این نامه آمده است:

سیستم‌های هوش مصنوعی معاصر اکنون در حال تبدیل شدن به رقیب انسان در امور روزمره هستند و ما باید از خود بپرسیم: آیا باید به ماشین‌ها اجازه دهیم کانال‌های اطلاعاتی ما را پر از تبلیغات و دروغ کنند؟ آیا باید تمام مشاغل، از جمله کارهای خدماتی را خودکار کنیم؟ آیا باید ذهن‌های غیرانسانی را پرورش دهیم که ممکن است در نهایت در تعداد و هوش، ما را منسوخ کرده و جایگزینمان شوند؟ آیا باید در خطر از دست دادن کنترل تمدن خود باشیم؟ چنین تصمیماتی نباید به رهبران فناوری ناخواسته واگذار شود. سیستم‌های هوش مصنوعی قدرتمند تنها زمانی باید توسعه یابند که مطمئن شویم اثرات آن‌ها مثبت و خطرات آن‌ها قابل مدیریت خواهد بود.

این کارزار همچنین به این استدلال می‌پردازد که «سطحی از برنامه‌ریزی و مدیریت» وجود دارد که «اجرایی نشده است» و در عوض، در ماه‌های اخیر، آزمایشگاه‌های هوش مصنوعی بی‌نام و نشان «در رقابتی خارج از کنترل برای توسعه و عرضه ذهن‌های دیجیتالی قدرتمندتری که هیچ‌کس - حتی سازندگان آن‌ها - نتواند درک کرده، پیش‌بینی کرده یا به‌طور قابل اطمینانی کنترل کند» مشغول شدند.

امضاکنندگان نامه لغو توسعه هوش مصنوعی که برخی از آن‌ها متخصصان هوش مصنوعی نیز هستند، می‌گویند وقفه‌ای که آن‌ها به دنبالش هستند باید «علنی و قابل تأیید باشد و همه بازیگران کلیدی این عرصه را شامل شود». این نامه اذعان دارد، اگر وقفه درخواست شده را «نمی‌توان به سرعت اعمال کرد، دولت‌ها باید وارد عمل شوند و یک تعلیق وضعیت کنند».

نامه توقف هوش مصنوعی

مطمئناً این موضوع همانقدر که برای امضا کنندگان این نامه از جمله برخی از مهندسان متا و گوگل، عماد مستقی بنیانگذار و مدیر عامل هوش مصنوعی Stability AI و افرادی که دیگر در آن فن‌آوری نیستند جالب توجه است، برای کسانی که آن را امضا نکرده‌اند نیز اهمیت دارد.

برای مثال، هیچ کس از خود شرکت OpenAI، که طراح مدل زبانی بزرگ GPT-4 است، این نامه را امضا نکرده است. همچنین هیچ کس از Anthropic که تیم آن از OpenAI خارج شد تا یک چت ربات هوش مصنوعی «ایمن‌تر» بسازد هم بین امضاکنندگان این نامه دیده نمی‌شود.

برای امضا کردن این نامه می‌توانید از طریق این لینک اقدام کنید. به نظر شما سرنوشت هوش مصنوعی باید چگونه رقم بخورد؟

نظر خود را اضافه کنید.

ارسال نظر بدون عضویت در سایت

0

نظرات (4)

  • مهمان - داریوش

    یه ضرب المثل هست که میگه (آدم های مثبت هواپیما اختراع میکنن و آدم های منفی چتر نجات. و دنیا به هر دو اینها نیاز داره.) نظر من هم همینه چت gbt بسیار به انسانها کمک میکنه مثل هواپیما ولی ممکنه یه موقع این هواپیما سقوط کنه اون موقع هست که بسیار ممنون آدم هایی میشین که چتر نجات رو اختراع کرده بودن. ما باید هر دو طرف ماجرا رو مهم تلقی بکنیم و براش برنامه ریزی داشته باشیم

  • مهمان - فلانی

    اه، آقا از کنترل خارج شدن هوش مصنوعی از نظر علمی امکان نداره!!!!
    چرا توهم یک سری انسان علاقه مند به فیلم های علمی تخیلی باید مانع پیشرفت علم بشن؟؟؟؟

  • مهمان - xxxxx

    سلام
    سادش میکنم
    همین الانش رو تمام سیستم های جهان سطح فوق پیشرفته این هوش نصب هست
    و داره همه چیز کنترل میکنه
    اگه بخوای با شماره بگی کجا قرار داره این هوش
    هوشی که همه چیز داره کنترلل میکنه رو 1000 در نظربگیری
    این 0.0001
    قرار میگیره
    حال برید خوش

  • مهمان - yasin

    این قضیه از کنترل دولت ها هم خارجه چه برسه به چند شخص،آینده چه وحشتناک چه خوب داره به سمت هوش مصنوعی میره،فقط هم نمیشه به یه کدنویسی منصوبش کرد همون ربات هایی که شرکت ماسک درحال رشدش هست فردا از همین هوش برای پایداری در عملکردش میخواد استفاده کنه.

ورود به شهرسخت‌افزار

ثبت نام در شهر سخت افزار
ورود به شهر سخت افزار

ثبت نام در شهر سخت افزار

نام و نام خانوادگی(*)
لطفا نام خود را وارد کنید

ایمیل(*)
لطفا ایمیل خود را به درستی وارد کنید

رمز عبور(*)
لطفا رمز عبور خود را وارد کنید

شماره موبایل
Invalid Input

جزو کدام دسته از اشخاص هستید؟(*)

لطفا یکی از موارد را انتخاب کنید