هشدار محقق سابق OpenAI/ هوش مصنوعی آینده انسان را نابود میکند؟
تاریخ انتشار: ۱۶ اردیبهشت ۱۴۰۲ | کد خبر: ۳۷۶۹۰۵۶۵
یکی از محققان امنیتی OpenAI زنگ خطر را درمورد چشمانداز بسیار تیرهای بهصدا درآورده است که نشان میدهد هوش مصنوعی بشر را نابود خواهد کرد.
پل کریستیانو، عضو سابق واحد امنیت OpenAI در اوایل هفتهی جاری در پادکست Bankless گفت: «من فکر میکنم شاید چیزی حدود ۱۰ تا ۲۰ درصد احتمال دارد هوش مصنوعی بر بشر مسلط شود و تصمیم به مرگ انسانها بگیرد و من این موضوع را کاملاً جدی میگیرم.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمیشوند!
کریستیانو هنگام بحث درمورد احتمال نابودی بشر توسط هوش مصنوعی، برخلاف الیزر یودکوفسکی که سناریوی نابودگر مبتنیبر هوش مصنوعی را مطرح کرد، فکر میکند نابودی بشر با این فناوری بهتدریج رخ خواهد داد.
کریستیانو گفت: «بهنظر من حدود یک سال تا ایجاد هوش مصنوعی بزرگی که سرعت رشد زیادی داشته باشد فاصله داریم.»
فیوچریسم مینویسد، وقتی هوش مصنوعی از آستانهی احساسات انسانی عبور کرد، همهی شرطها از بین خواهند رفت. کریستیانو میگوید: «بهطور کلی امکان دارد مدت کوتاهی پس از دستیابی به سیستمهای هوش مصنوعی در سطح انسانی، احتمال نابودی بشر با این فناوری به ۵۰ درصد افزایش یابد.»
درحالیکه OpenAI ادعا دارد هدفش همسو کردن هوش عمومی مصنوعی (AGI) با ارزشهای انسانی است و قصد دارد این فناوری را در راستای نیت انسانها توسعه دهد، مفهومی مثل AGI باعث میشود محققانی مثل کریستیانو به جنبهی منفی موضوع نیز فکر کنند.
کد خبر 1763002منبع: خبرآنلاین
کلیدواژه: هوش مصنوعی فناوری هوش مصنوعی
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را بهطور اتوماتیک از وبسایت www.khabaronline.ir دریافت کردهاست، لذا منبع این خبر، وبسایت «خبرآنلاین» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۷۶۹۰۵۶۵ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتیکه در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
چالشهای زیستمحیطی در توسعه هوش مصنوعی
هوش مصنوعی مولد نگاه نوآوران و کارآفرینان را به خود جلب کرده است و آنها بهخوبی میدانند که چنین فناوری میتواند چه تغییرات شگفتی در جهان کنونی خلق کند. بااینحال، در پشتصحنه چنین تکنولوژی، چالشهای مهمی نهفته است که میتوانند تهدیدی برای پیشرفت آن باشد و منجر به ایجاد بحرانهای جهانی انرژی شود. با حضور هرچه بیشتر هوش مصنوعی در تاروپود صنایع مختلف، نگرانیها در مورد بهکارگیری بیرویه انرژی توسط هوش مصنوعی و عدم پایداری آن افزایش یافته و کارشناسان رویکردهای متفاوتی برای حل این معضل پیشنهاد میدهند.
دیتاسنترهای (Data centers) توسعهیافته توسط غولهای فناوری مانند آلفابت، مایکروسافت و آمازون که بهمنظور ارائه خدمات ابری استفاده میشوند، تنها حدوداً ۱ الی ۲ درصد از مصرف انرژی جهانی را به خود اختصاص دادهاند. همچنین این شرکتها همزمان با افزایش میزان کارکرد سیستمها، بهرهوری انرژی را در این مراکز بهبود بخشیدهاند و با سرمایهگذاری عظیم در بحث انرژیهای پاک، اثرات زیستمحیطی دستگاههای خود را کاهش دادهاند. البته لازم به ذکر است که تلاشهای این شرکتها برای تقویت سیستمها و بهرهوری مفید انرژی همچنان ادامه دارد.
هوش مصنوعی
بااینحال، ظهور هوش مصنوعی مولد چالشهای جدیدی را ایجاد کرده است. برای مثال، پردازشگرهای گرافیکی (GPU) در ChatGPT، انرژی زیادی را مصرف میکنند و طبق گفته «کریستوفر ولیس» از کمپانی Equinix (شرکت اجارهدهنده دیتاسنتر)، یک سرور استاندارد با مقیاس بالا، پیش از حضور هوش مصنوعی حدود ۱۰ الی ۱۵ کیلووات انرژی مصرف میکرد، درحالیکه این رقم با حضور هوش مصنوعی به ۴۰ الی ۶۰ کیلووات در هر رَک (rack) افزایش مییابد؛ البته مصرف بالای انرژی محدود به محاسبات دستگاهها نیست و سیستمهای خنککننده نیز برای رکهای GPUها به انرژی قابلتوجهی نیازمندند. همچنین استفاده از مدلهای زبانی مانند GPT-۴ در زمینههای گوناگون، از تحقیقات گرفته تا فعالیتهای خلاقانه تولید محتوا، میتوانند به افزایش بیشتر فشار در شبکه منجر شوند. (به عنوان مثال، یک سرچ ساده در ChatGPT میتواند ۱۰ برابر بیشتر از جستجو در گوگل انرژی مصرف کند.)
آژانس بینالمللی انرژی میگوید میزان مصرف انرژی دیتاسنترها تا سال ۲۰۲۶ ممکن است به ۲ برابر میزان دو سال پیش افزایش یابد و انتظار میرود که طی این بازه زمانی، این دستگاهها یکسوم مصرف انرژی ایالاتمتحده را به خود اختصاص دهند. همچنین «رنه هاس»، مدیر اجرایی آرم (Arm)، طی گفتگو با وال استریت ژورنال بیان کرد که تا پایان دهه فعلی میلادی، دیتاسنترهای هوش مصنوعی میتوانند تا ۲۵ درصد کل برق آمریکا را به خود اختصاص دهند؛ البته وی درحالی این ادعا را مطرح کرده که مصرف فعلی این سیستمها حدود ۴ درصد یا کمتر است.
پیچیدگیهای مصرف انرژی در آمریکا
ظهور هوش مصنوعی مولد همزمان با ایجاد فرصتهای اقتصادی متعدد، مصرف انرژی بالایی را هم میطلبد؛ درحالیکه کاربران و سرمایهداران رؤیای استفاده حداقلی انرژی را در سر دارند. این تفکر در سایر بخشها نیز قابل مشاهده است. برای مثال، بسیاری از مشتریان میخواهند انرژی خودروهایشان زیرو کربن (بدون کربن) باشد و منابع دیگری را برای انرژی دستگاههایشان جستجو میکنند.
از طرفی، گسترش شبکهها دیگر چالش پیشروی کمپانیهاست. علیرغم حمایت کاخ سفید، ساخت سریع ظرفیتهای تجدیدپذیر جدید برای شرکتها آسان نیست و آنها از مشکلات متعددی در زنجیره تأمین رنج میبرند. طبق برخی محاسبات، تحویل ترانسفورماتورها سه سال طول میکشد و همینطور افزایش هزینه پروژههای بادی و خورشیدی، تأمین مالی آنها را دشوار ساخته است.
چه باید کرد؟
شکی نیست که ادامه وضعیت فعلی، بحرانهای زیستمحیطی و انرژی متعددی را رقم خواهد زد؛ درنتیجه صنعت حالحاضر به راهکارهای نوآورانه و خلاق نیاز دارد. یکی از رویکردهای احتمالی، بهبود بهرهوری پردازشگرهای گرافیکی است. درحالحاضر انویدیا بهعنوان تأمینکننده عمده قطعات در این زمینه، ادعا کرده که بهرهوری لازم را در جدیدترین سرورهای هوشمصنوعی خود اعمال کرده است و این روند را ادامه میدهد. بااینحال، ساخت تراشههای کارآمدتر میتواند به افزایش مصرف انرژی ختم شود و دوباره مشکل ایجاد کند.
«آرون دنمن» از شرکت Bain، پیشنهاد میکند که مدعیان حوزه فناوری از منابع مالی خود برای کمک به شرکتهای حوزه برق جهت رفع محدودیتهای این شبکه خرج کنند. او با اشاره به افزایش تقاضا برای مصرف انرژی در زمانهای اوج مصرف، از الزام بهرهمندی از نیروگاههای پشتیبان آماده گفت. بااینحال، این نیروگاهها احتمالاً با گاز طبیعی کار میکنند که با اهداف زیستمحیطی شرکتهای بزرگ در تضاد است.
کمبود احتمالی انرژیهای تجدیدپذیر هزینههایی را بههمراه خواهد داشت. علیرغم عدم آشنایی با نحوه درآمدزایی از هوش مصنوعی، مردم میدانند که حضور پردازشگرهای گرافیکی سدی بزرگ در بهرهوری انرژی محسوب میشوند. اگر هزینههای انرژی افزایش یابد، توسعه هوش مصنوعی و فناوریهای نوین نیز با اختلال روبهرو خواهد شد. از طرفی دیگر، «سم آلتمن» و همکارانش در OpenAI، بهکارگیری شکافت هستهای را بهعنوان یکی از راههای تأمین انرژی مصرفی سیستمهای هوش مصنوعی در سر دارند. بااینحال، باید منتظر ماند و دید که مسیر توسعه انرژیهای تجدیدپذیر چگونه پیش خواهد رفت و آینده هوش مصنوعی مولد بهعنوان یک فناوری کاربردی چگونه خواهد بود.
منبع: دیجیاتو
باشگاه خبرنگاران جوان علمی پزشکی فناوری