خطرات هوش مصنوعی (AI) موضوع صحبت‌های پاپ فرانسیس در سخنرانی خود با رهبران جهان در اجلاس سالانه G7 در شهر پولیا ایتالیا بود. رهبر کاتولیک‌های دنیا درباره تهدیدات این فناوری علیه بشریت سخن گفت.
به گزارش Decrypt، فرانسیس در طول سخنرانی خود از دولت‌های جهانی خواست استفاده از هوش مصنوعی در جنگ را ممنوع کنند و چهارچوبی اخلاقی برای این فناوری ایجاد کنند و بر نیاز به همکاری برای هدایت توسعه و استفاده از آن تاکید کرد.
پاپ گفت:
«با توجه به فاجعه‌ای که درگیری مسلحانه باشد، بازنگری در توسعه و استفاده از وسایلی مانند به‌اصطلاح سلاح‌های خودمختار مرگبار و در نهایت ممنوعیت استفاده از آن‌ها ضروری است. هیچ ماشینی نباید تصمیم بگیرد که جان یک انسان را بگیرد.»
رئیس کلیسای کاتولیک پس از راه‌اندازی ChatGPT در سال ۲۰۲۲ و متعاقب آن افزایش استفاده از هوش مصنوعی به‌صورت جهانی، بارها درباره این پلتفرم صحبت کرده است و قبلاً آن را «پرمخاطره‌ترین قمار آینده ما» نامیده بود.
پاپ فرانسیس که خود قربانی چندین تصویر و ویدیوی تولیدشده توسط هوش مصنوعی بود – ازجمله عکسی که او را با کاپشن سفید پف‌دار به تصویر می‌کشید – به قدرت روبه‌رشد AI در سیاست، پزشکی و آموزش اذعان کرد.
پاپ فرانسیس با نامیدن هوش مصنوعی به‌عنوان «انقلاب شناختی-صنعتی واقعی» که می‌تواند دگرگونی‌های پیچیده‌ای به همراه داشته باشد، هشدار داد که این فناوری همچنین می‌تواند بی‌عدالتی بیشتری را بین کشورهای پیشرفته و درحال توسعه یا بین طبقات اجتماعی مسلط و تحت ستم ایجاد کند.
پاپ فرانسیس گفت:
«فراموش‌کردن این نکته که هوش مصنوعی انسان نیست و نمی‌تواند اصول کلی را پیشنهاد دهد، اشتباهی مکرر و جدی است. این خطا یا از نیاز عمیق انسان‌ها به یافتن شکلی پایدار از همراهی سرچشمه می‌گیرد، یا از این فرض نیمه‌آگاهانه که مشاهدات به‌دست‌آمده از طریق یک مکانیسم محاسباتی، دارای قطعیت و جامعیت بی‌چون‌وچرا است.»
خطاپذیری هوش مصنوعی از نظر پاپ
پاپ می‌گوید فناوری بدون خطا نیست. او همچنین به آنچه که «وضعیت فنی-انسانی» و رابطه بشریت با فناوری در طول تاریخ می‌خواند، پرداخت:
«انسان‌ها همیشه با ابزارهایی که به تدریج تولید می‌کنند، با محیط ارتباط برقرار کرده‌اند. نمی‌توان تاریخ بشریت را از تاریخ این ابزارها جدا کرد.»
پاپ خاطرنشان کرد که از فناوری می‌توان هم برای حفظ حیات و هم برای ازبین‌بردن آن استفاده کرد و گفت که در آینده هوش مصنوعی به تکینگی خواهد رسید. او گفت:
«این [باور] بیش از همیشه درست است، زیرا به احتمال زیاد در آینده‌ای نه‌چندان دور، برنامه‌های هوش مصنوعی قادر به برقراری ارتباط مستقیم با یکدیگر برای بهبود عملکرد خود خواهند بود.»
تکینگی به زمانی اشاره دارد که کامپیوترها و هوش مصنوعی فراتر از کنترل انسان پیشرفت کنند.