معایب، مضرات و خطرات هوش مصنوعی برای بشریت

انتشار یک عکس یا ویدئویی کوتاه می‌تواند یک شبه جهان را زیر و رو کند، یک سیاست مدار را مجبور به کناره گیری کند، یک سلبریتی محبوب ناگهان به منفورترین چهره دنیا مبدل شود، بهانه کافی برای شروع یک جنگ را فراهم کند یا بازارهای مالی را به هم بریزد. دیری نخواهد پایید که دنیا اعتبار خود را از دست می‌دهد. همه اینها مثال‌هایی از خطرات هوش مصنوعی برای بشریت بوده و به همین خاطر در ادامه این مطلب از شهر سخت افزار به صورت مفصل به بیان مضرات و معایب هوش مصنوعی و چالش های پیش رو پرداخته‌ایم.

فهرست مطالب این مقاله:

- هوش مصنوعی تهدید یا فرصت؟
- بزرگترین مضرات هوش مصنوعی چیست؟
- چگونه با تهدیدات هوش مصنوعی مقابله کنیم؟
- نظر افراد مهم در مورد خطرات هوش مصنوعی
- جمع بندی و پاسخ به سوالات پرتکرار

شاید تاکنون هشدارها و تهدیدات هوش مصنوعی را کمتر کسی جدی گرفته باشد و بیشتر برای سوژه فیلم‌های تخیلی مناسب بودند اما فناوری در مسیری گام بر می‌دارد که آهسته‌آهسته دنیا را بی اعتبار خواهد کرد.

هم اکنون یک ویدیوی ساختگی؛ هرچند هم توسط ماهرترین‌ها ساخته شده باشد، به آسانی قابل تشخیص است و حرفه‌ای‌ترین عکس‌های ساختگی هم توسط صاحب نظرها قابل تشخیص هستند. اما با ظهور فناوری‌هایی چون AI و یادگیری عمیق، ویدئوها و عکس‌های ساختگی می‌توانند به حدی طبیعی باشند که هیچ کس قادر به تشکیک درباره اصالت آنها نباشد. این خود یک مثال بارز از معایب هوش مصنوعی است.

به عنوان یکی از عیب های AI تصور کنید ویدئویی باعث رسوایی یک رهبر سیاسی شود یا اتفاق مهمی را نشان دهد که واکنش وسیع مردم را به همراه داشته باشد، اگر این ویدیو به حدی طبیعی باشد که هیچ کس نتواند اصالت آن را زیر سؤال ببرد، چه اتفاقی خواهد افتاد؟

در همین رابطه بخوانید:

- هوش مصنوعی Dall-E 2 چیست؟ آموزش تولید تصویر با متن توسط AI
- ربات هوش مصنوعی چت جی پی تی (ChatGPT) چیست و چگونه کار می کند؟

هوش مصنوعی تهدید یا فرصت؟

هوش مصنوعی با سرعت هرچه تمام در حال پیشرفت است و سخت افزارهای قدرتمندی که عرضه می‌شوند، آن را به یک تهدید بالقوه تبدیل کرده‌اند. اگر در گذشته برای خلق یک صحنه انفجار واقع‌گرایانه به ماه‌ها و حتی سال‌ها زمان نیاز بود، حالا با ظهور پردازنده‌ها، کارت‌های گرافیک و پلتفرم‌های محاسباتی قدرتمند، نهایتاً به چند ماه زمان نیاز است.

شاید هنوز تصویر ذهنی مناسبی از مضرات هوش مصنوعی به شما مخابره نکرده باشیم اما تصور کنید یک برنامه کامپیوتری پیشرفته وجود داشت باشد که بتواند سر شما را با شخص دیگری درون ویدئو جایگزین کند، تصور کنید چنان این ویدئو طبیعی به نظر برسد که نزدیک‌ترین افراد به شما را هم دچار تردید کند.

هوش مصنوعی آرام‌آرام در حال تبدیل شدن به چراغ جادویی است که ناممکن‌ها را ممکن می‌کند و یکی از معایب هوش مصنوعی هم هوشمندی فوق العاده آن است. چندان دور از ذهن نیست روزی یک برنامه بتواند با عکس‌ها و ویدئوهای معمولی که بر روی صفحه اینستاگرام تان گذاشته‌اید، یک ویدئوی واقع‌گرایانه از شما بسازد، گویی درست خودتان جلوی دوربین بوده‌اید.

به عنوان مثال دیگری از خطرات AI باید گفت که قرار نیست سوء استفاده از توانایی‌های هوش مصنوعی صرفاً در خدمت تخریب و بی آبرو کردن چهره‌ها باشد، گاهی یک ویدئو می‌تواند مردم را به خیابان‌ها بکشد و دنیا را به هرج و مرج بکشاند. سناریوهای ممکن از این هم فراتر می‌رود و دیگر شاید حتی نتوان قدم گذاشتن انسان بر روی کره دیگری را باور کرد.

در همین رابطه بخوانید:

- هوش مصنوعی و شناسایی اجسام؛ تشخیص اشیا با یادگیری عمیق
- خلق ترسناک‌ترین ربات بر پایه هوش مصنوعی توسط یک مهندس نرم‌افزار

بزرگترین معایب و خطرات هوش مصنوعی چیست؟

با پیشرفت هوش مصنوعی، کاربردهای آن هم بیشتر می‌شود. اما متأسفانه یک تکنولوژی جدید قدرتمند همواره در معرض خطر سوءاستفاده قرار دارد. این خطرات تمام جنبه‌های زندگی روزمره‌ی ما را تحت تأثیر قرار می‌دهند. در ادامه به برخی از مهم ترین تهدیدات هوش مصنوعی و خطرات آن خواهیم پرداخت.

دیپ‌فیک و اخبار جعلی

انتشار ویدیوها و عکس‌های ساختگی می‌توانند برای شوک‌های اقتصادی نیز به خدمت گرفته شوند و بازارها را تحت تأثیر قرار بدهند. هنگامی که هوش مصنوعی به چنین توانایی برسد، خبررسانی بی اعتبار می‌شود و اگر چیزی را با چشم‌های خودتان نبینید، بسیار دشوار است بتوانید آن را باور کنید.

از طرف دیگر  هوش مصنوعی می‌تواند چنان قدرت بگیرد که صدا و دیگر ویژگی  های منحصر به فرد آدم‌ها چون لحن گفتار، لهجه و زبان بدن را تقلید کند، به گونه‌ای که نتوانید به اصالت یک فایل صوتی یا ویدئویی شک کنید.

بدافزار هوش مصنوعی

هوش مصنوعی به طور فزاینده‌ای در هک کردن سیستم‌های امنیتی و شکستن رمزگذاری‌های مختلف بهتر می‌شود. بخشی از این موضوع به تکامل الگوریتم‌های یادگیری ماشینی برمی‌گردد. این یعنی بدافزار مبتنی بر هوش مصنوعی با آزمون و خطا بهتر می‌شود و با گذر زمان خطرات توسعه هوش مصنوعی هم افزایش پیدا می‌کند.

به عنوان یکی دیگر از عیب های AI باید گفت که برخی از فناوری‌های هوشمند مانند اتومبیل‌های خودران اهداف مناسبی برای این نوع بدافزارها بوده و می‌توان از بدافزارها برای ایجاد تصادف رانندگی یا ایجاد ترافیک استفاده کرد.

امنیت و حریم خصوصی

درباره مضرات هوش مصنوعی باید گفت که شرکت‌های بزرگ طی چند سال گذشته در زمینه‌ حریم خصوصی تا حد قابل توجهی زیر تیغ دولت‌ها و نهادهای نظارتی قرار گرفته‌اند. در همین رابطه شاهد تدابیر پیش‌گیری امنیتی با استفاده از هوش مصنوعی هستیم. اما اگر از الگوریتم‌های هوش مصنوعی برای دفاع در برابر نگرانی‌های امنیتی استفاده شود، باید در رابطه با ایمن بودن خود سیستم هوش مصنوعی‌ هم اطمینان حاصل شود.

خطرات هوش مصنوعی در پزشکی

اگر چه استفاده از سیستم‌های هوش مصنوعی در حوزه پزشکی یک راه‌حل مناسب به نظر می‌رسد اما می‌تواند مشکلاتی نیز ایجاد کند. افزایش خطای پزشکی می‌تواند نتیجه استفاده از هوش مصنوعی باشد. خطای پزشکی یکی از علل مرگ‌ و میر در برخی کشورها بوده و این موضوع نشان‌دهنده نیاز به بهبود سیستم و همچنین شکنندگی سیستم و پیامدهای ناشی از طراحی ضعیف است.

از بین رفتن رابطه همدلی بین بیمار و پزشک، یکی دیگر از معایب هوش مصنوعی با طراحی ضعیف است، زیرا مراقبت‌های بهداشتی رابطه مستقیمی پیوند بین انسان به عنوان پزشک و انسان به عناون بیمار دارد. انسان‌ها به روش حل مساله‌ای که از گفت‌وگو ناشی می‌شود، تمایل دارند و از آن بهره‌مند می‌شوند. هوش مصنوعی همانطور که راهکار درمان و تشخیص زودهنگام بسیاری از بیماری‌ها را ارائه می‌دهد می‌تواند موجب گمراهی پزشکان و اشتباهاتی نیز بشود.

در کلینیک‌هایی که سوابق سلامت الکترونیکی دارند، پزشکان حدود 27 درصد از وقت خود را صرف مراقبت از بیمار و 52 درصد وقت خود را در اتاق معاینه و در تعامل با بیمار می‌گذرانند. جایگزینی نامناسب انسان با فناوری می‌تواند منجربه نارضایتی پزشکان و کاهش تعامل بیماران شود. استفاده ناصحیح از هوش مصنوعی می‌تواند به نابرابری‌ها و تعصبات جدید منجر شود.

در همین رابطه بخوانید:

- بهترین اپلیکیشن های هوش مصنوعی برای گوشی
- هر آنچه باید در مورد مدل زبان بزرگ هوش مصنوعی GPT-5 بدانید

چگونه با تهدیدات هوش مصنوعی مقابله کنیم؟

هوش مصنوعی یا AI نقش مهمی در مقابله با تهدیدات ایفا می‌کند اما از طرفی نیز به عنوان یک شمشیر دولبه و یک چالش بزرگ نیز محسوب می‌شود. درست است که ابزارهای مبتنی بر هوش مصنوعی برای شناسایی و محافظت بهتر در برابر تهدیدهای هوش مصنوعی مفید هستند، اما این را هم باید در نظر داشت که مجرمان سایبری نیز می‌توانند از این فناوری در جهت اهداف مخرب و پراکنده‌ خود استفاده کنند به طوری که مصون ماندن در برابر آن‌ها سخت‌تر از گذشته شده است، چرا که خیل کثیری از آن‌ها به طور همزمان عمل می‌کنند.

اتخاذ یک رویکرد مشترک جمعی برای مقابله مضرات هوش مصنوعی از طریق وضع قوانین از سوی دولت‌ها برای قانون‌مند کردن هوش مصنوعی و تهیه و انتشار چارچوبی برای ایجاد یک رژیم نظارتی جدید جهت جلوگیری از آسیب‌های احتمالی را می‌توان راهکارهایی ابتدایی برای مقابله با این تهدید هوش مصنوعی است.

همچنین استفاده از هوش مصنوعی برای مقابله با تهدیدات هوش مصنوعی برای بشر و ارائه آموزش‌های لازم برای نحوه مواجهه با این پدیده نو ظهور هم می‌تواند در برخی مواقع کاربردی باشد.

در همین رابطه بخوانید:

- مقایسه ربات هوش مصنوعی ChatGPT 4 با GPT-3.5؛ تغییرات و پیشرفت‌ها
- هوش مصنوعی گوشی چقدر واقعیت دارد؟

نظر افراد مهم و تأثیر گذار در مورد خطرات هوش مصنوعی

از همان ابتدای توسعه هوش مصنوعی بسیاری از افراد مهم و تأثیرگذار به ایراد سخن یا اظهار نظر در مورد این فناوری جذاب و با پتانسیل بالا پرداختند. در این میان بسیاری از صاحب نظران، این فناوری را یک فرصت عالی برای پیشرفت بشریت می‌دانند ولی اکثر آنها بر این نظریه اتفاق نظر دارند که همراه با مزایای گسترده هوش مصنوعی برای بشریت، باید به خطرات آن نیز توجه ویژه داشت. در ادامه برخی از این اظهار نظرها را با هم می‌خوانیم:

استفن هاوکینگ فقید، کیهان شناس و فیزیکدان بزرگ در گفتگو با بی‌بی‌سی:

توسعه هوش مصنوعی کامل می‌تواند پایان نژاد انسانی را به دنبال داشته باشد… آن (هوش مصنوعی) خودش را پرتاب می‌کند و در یک سرعت هر چه بیشتر خود را طراحی مجدد می‌کند. انسان‌ها به صورت زیستی تکامل یافته اند در این زمینه محدود شده‌اند و باید بگوییم که هرگز نخواهند توانست با سرعت تکامل هوش مصنوعی رقابت کنند. در این شرایط است که باید منتظر جایگزین شدن آنها با هوش مصنوعی باشیم.

الان ماسک، کارآفرین و میلیارد بزرگ آمریکایی در یک نظر در Edge.org نوشت:

سرعت پیشرفت در هوش مصنوعی (منظورم هوش مصنوعی تخصصی نیست) بسیار سریع است. اگر شما به گروه‌هایی مثل دیپ‌مایند دسترسی مستقیم داشته باشید، از این سرعت حیرت زده می‌شوید؛ در واقع باید بگوییم سرعت رشد هوش مصنوعی یک نمودار نمایی است و هر لحظه نیز بر آن افزوده خواهد شد. شاید بتوان گفت که این سرعت اگر در 5 سال آینده نباشد، حداکثر طی 10 سال آینده منجر به پدیده‌ای خطرناک خواهد شد.

نیک بلتون، ستون‌نویس فناوری و فیلم ساز انگلیسی در نیویورک تایمز نیز معتقد است:

آشفتگی‌های [هوش مصنوعی] ممکن است به سرعت تشدید شده، ترسناک‌تر و حتی فاجعه‌بار شوند. تصور کنید که چگونه یک ربات پزشکی که ابتدا برای رفع سرطان برنامه‌ریزی شده بود، ممکن است به این نتیجه برسد که بهترین راه برای از بین بردن سرطان، نابود کردن انسان‌هایی است که به بیماری ژنتیکی مبتلا هستند!

بانی دخاردی، نظریه‌پرداز و فعال حقوق بشر نیز در جریان مصاحبه‌ای گفته است:

اگر این نوع فناوری الان متوقف نشود، منجر به یک مسابقه تسلیحاتی خواهد شد. اگر یک دولت آن را توسعه دهد، دولت دیگر نیز آن را توسعه خواهد داد. ماشین‌هایی که فاقد اخلاق و فانی هستند، نباید قدرت کشتار را داشته باشند.

الیزر یودکوفسکی، محقق و استاد دانشگاه در زمینه پژوهش‌های هوش مصنوعی در جریان مصاحبه‌ای گفته است:

در مورد خطرات هوش مصنوعی می‌خواهید بدانید، باید در یک کلمه بگویم، بسیار زیاد! بزرگترین خطر هوش مصنوعی این است که مردم خیلی زود فکر کنند که آن را درک کرده‌اند.

با توجه به جمیع این موارد باید گفت که بیشتر دانشمندان و افراد صاحب نظر نیز معتقدند که هوش مصنوعی ابزاری است که باید به صورت ویژه و کنترل شده مورد استفاده قرار گیرد، در غیر این صورت می‌تواند آسیب‌های بسیاری را متوجه بشریت کند.

در همین رابطه بخوانید:

- هوش مصنوعی جامع (AGI) چیست و چرا باید نگران آن باشیم؟
- با بهترین ابزار های هوش مصنوعی (AI) در سال 2023 آشنا شوید

جمع بندی و پاسخ به سوالات پرتکرار

تردیدی وجود ندارد هوش مصنوعی و فناوری‌های مرتبط با آن می‌توانند دروازه‌ای به سوی پیشرفت‌های بزرگ باشند اما در عین حال خطرات هوش مصنوعی قابل انکار نیست، چه کسی می‌داند؛ شاید سه دهه بعد انتشار محتواهای ساختگی باورها و اعتقادهای امروزمان را به چالش بکشد. به همین خاطر باید با فرصت و مضرات هوش مصنوعی آشنا شد.

آیا هوش مصنوعی باعث نابودی بشر خواهد شد؟

در پاسخ به این سوال در مورد تهدیدهای AI دیدگاه یکسانی بین منتقدان وجود ندارد. برخی از آنها بر این عقیده‌اند که هوش مصنوعی هر چه باشد، به هر حال تحت کنترل انسان‌ها خواهد بود و برخی دیگر هم معتقد هستند که هوش مصنوعی باعث و بانی جنگ جهانی سوم و انتقراض بشریت خواهد بود.

مشکل اصلی هوش مصنوعی چیست؟

شاید بتوان چالش اصلی پیش روی طراحان هوش مصنوعی را در فهمیدن و فکر کردن ماشین‌ها خلاصه کرد. کامپیوترها می‌توانند بهتر از انسان‌ها یاد بگیرند اما در فهمیدن آنها با مشکل مواجه هستند. هر چند که این چالش در آینده تا حدودی مرتفع می‌شود اما می‌تواند سرآغاز چالش دیگری برای بشریت باشد.

بزرگترین خطر هوش مصنوعی برای انسان کدام است؟

شاید بتوان خودکارسازی انجام کارها را بزرگ‌ترین خطرات هوش مصنوعی برای انسان دانست. مساله مهم این است که سیستم‌های هوش مصنوعی در انجام بسیاری از کارهای مختلف نسبت به انسان‌ها عملکرد بهتری دارند و به زودی جایگزین انسان ها خواهند شد.