کنترل هوش مصنوعی فوق هوشمند ممكن است؟
تاریخ انتشار: ۱۴ آبان ۱۴۰۰ | کد خبر: ۳۳۵۹۵۴۳۷
به گزارش جام‌جم آنلاین به نقل از ساینس الرت، نکته مهم این است که کنترل یک اَبَر هوش که بسیار فراتر از درک انسان عمل می‌کند نیازمند شبیه‌سازی آن اَبَر هوش است که بتوان آن را تحلیل کرد. اما اگر ما قادر به درک آن نباشیم، ایجاد چنین شبیه‌سازی غیرممکن است.
به گفته نویسندگان این مقاله، اگر ما سناریو‌هایی را که یک هوش مصنوعی قرار است ارائه دهد، درک نکنیم، نمی‌توان قوانینی مانند «به انسان‌ها آسیب نرساند» تنظیم کرد.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمی‌شوند!
محققان بیان می‌کنند: «یک اَبَرهوش مشکلی اساساً متفاوت با چالش‌هایی که معمولاً تحت عنوان «اخلاق ربات» مورد مطالعه قرار می‌گیرد، ایجاد می‌کند. این موضوع به این دلیل است که یک ابرهوش چندوجهی است، و بنابراین به طور بالقوه قادر به گردآوری منابع متنوعی برای دستیابی به اهدافی است که به طور بالقوه برای انسان غیرقابل درک است، چه برسد به اینکه قابل کنترل باشد.»
بخشی از استدلال این تیم تحقیقاتی بر اساس «مسئله توقف» ارائه شده توسط آلن تورینگ در سال ۱۹۳۶ ناشی می‌شود. مشکل بر این تمرکز دارد که بدانیم آیا یک برنامه کامپیوتری به نتیجه و پاسخ می‌رسد (بنابراین متوقف می‌شود)، یا به سادگی برای همیشه در حلقه تلاش برای یافتن یک پاسخ می‌ماند.
برای مثال، هر برنامه‌ای که برای جلوگیری از آسیب رساندن هوش مصنوعی به انسان‌ها و نابودی جهان نوشته شده باشد، ممکن است به نتیجه برسد (و متوقف شود) یا خیر - از نظر ریاضی غیرممکن است که در مورد هر یک از این دو حالت کاملاً مطمئن باشیم؛ این یعنی کنترلی بر این موضوع نخواهیم داشت.
ایاد رهوان، متخصص کامپیوتر، از مؤسسه توسعه انسانی ماکس پلانک در آلمان در ماه ژانویه گفت: «در واقع، این باعث می‌شود که الگوریتم مهار غیرقابل استفاده باشد.»
جایگزینی برای آموزش برخی اصول اخلاقی به هوش مصنوعی و گفتن به آن مبنی بر اینکه دنیا را نابود نکند – چیزی که به گفته محققان هیچ الگوریتمی نمی‌تواند از انجام آن کاملاً مطمئن باشد – محدود کردن قابلیت‌های ابر هوش است. می‌توان آن را برای مثال از بخش‌هایی از اینترنت یا شبکه‌های خاصی قطع کرد.
مطالعه اخیر این ایده را نیز رد می‌کند و معتقد است چنین روشی دسترسی به هوش مصنوعی را محدود می‌کند؛ بنابراین این سوال ایجاد خواهد شد که اگر قرار نیست از ابرهوش برای حل مشکلات فراتر از محدوده انسان استفاده کنیم، پس چرا اصلاً آن را ایجاد کنیم؟
اگر بخواهیم با هوش مصنوعی پیش برویم، حتی ممکن است ندانیم که چه زمانی یک ابرهوش فراتر از کنترل ما به وجود خواهد آمد و همچنین چه زمانی برای ما غیرقابل درک خواهد شد؛ بنابراین باید از همین حالا شروع به پرسیدن برخی از سؤالات جدی در مورد مسیر‌هایی که در آن قرار داریم بپرسیم.
مانوئل سبرین، متخصص کامپیوتر، از موسسه توسعه انسانی ماکس پلانک، می‌گوید: «ماشین فوق هوشمندی که جهان را کنترل می‌کند، شبیه داستان‌های علمی تخیلی است. اما در حال حاضر ماشین‌هایی وجود دارند که وظایف مهم خاصی را به‌طور مستقل انجام می‌دهند، بدون اینکه برنامه‌نویسان کاملاً بفهمند که چگونه آن را یاد گرفته‌اند؛ بنابراین این سوال مطرح می‌شود که آیا این ممکن است در مقطعی غیرقابل کنترل و برای بشریت خطرناک شود؟»
این تحقیق در مجله تحقیقات هوش مصنوعی منتشر شده است.
منبع: جام جم آنلاین
کلیدواژه: هوش مصنوعی ابر هوش کنترل هوش مصنوعی هوش مصنوعی
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت jamejamonline.ir دریافت کرده‌است، لذا منبع این خبر، وبسایت «جام جم آنلاین» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۳۵۹۵۴۳۷ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
یوتیوب روی توسعه ابزار جدید هوش‌مصنوعی کار می‌کند
در حال حاضر، تمام شرکت‌های حوزه فناوری به دنبال رویکرد‌هایی برای اضافه‌کردن قابلیت‌های هوش مصنوعی به سرویس‌های خود هستند. گوگل نیز از این قاعده مستثنی نیست و به تازگی به ابزار هوش مصنوعی جدیدی برای کمک به تولیدکنندگان محتوا یوتیوب اشاره کرده که در زمینه ساخت ویدیو‌های جدید به آن‌ها کمک می‌کند.
لیست ویژگی‌های در حال آزمایش یوتیوب به‌تازگی آپدیت شده و گوگل در آن به یک «ابزار هوش مصنوعی الهام‌بخش محتوا در دسکتاپ استودیو» اشاره کرده است. این ابزار که هم‌اکنون در حال آزمایش است، برای «الهام‌بخشی محتوا» طراحی شده است تا به تولیدکنندگان محتوای این پلتفرم کمک کند ایده‌های جدیدی پیدا کنند.
قابلیت‌های ابزار هوش مصنوعی یوتیوب
به گفته یوتیوب، این ابزار هوش مصنوعی جدید می‌تواند در موارد زیر به کاربران کمک کند:
-نوع محتوا و موضوعی که بینندگان بیشتر می‌خواهند تماشا کنند
-موضوعات خلاقانه جدیدی که تاکنون به آن‌ها پرداخته نشده است و پتانسیل کافی را دارند
-نکاتی برای شروع فرایند خلاقیت سازندگان محتوا
در حال حاضر، تنها کانال‌هایی که ویدیو‌ها خود را به زبان انگلیسی منتشر می‌کنند بخشی از این آزمایش این ابزار جدید هستند، اما انتظار می‌رود در صورت موفقیت‌آمیز بودن، به‌زودی برای مخاطبان گسترده‌تری عرضه شود.
آزمایش ویژگی‌های جدید یوتیوب معمولاً برای مدت زمان و گروه محدودی از افراد در دسترس قرار می‌گیرد، بنابراین ممکن است هنوز این ابزار هوش مصنوعی در دسترس شما قرار نگرفته باشد. با این حال، می‌توانید از طریق Research که در بخش یوتیوب استودیو قرار دارد، در دسترس بودن این ویژگی را بررسی کنید.
گوگل در زمینه موتور جستجو، با رقیب جدی بزرگی، چون OpenAI مواجه شده است که گفته می‌شود این هفته از موتور جستجو ChatGPT رونمایی خواهد کرد. با این حال، غول موتور جستجو دارای سرویس‌های بسیار زیادی، چون یوتیوب است که برای آن‌ها ابزار‌های هوش مصنوعی توسعه می‌دهد. این شرکت اوایل امسال، ابزار جدیدی را به Creator Studio اضافه کرده بود که سازندگان از طریق آن می‌توانند محتوا‌هایی که با هوش مصنوعی تولیدشده‌اند را برای کاربران مشخص کنند.
منبع: دیجیاتو
باشگاه خبرنگاران جوان علمی پزشکی فناوری
دستگیری ۴ متهم اصلی پرونده مفقودی یسنا کودک کلالهای