وقتی توانایی تشخیص حقیقت از دروغ را از دست می‌دهیم، هوش مصنوعی به ابزاری سمی علیه دموکراسی تبدیل می‌شود

جاناتان کاتز، محقق موسسه بروکینگز در واشنگتن مى گويد: هوش مصنوعی سمی‌ترین ابزاری خواهد بود که تاکنون علیه دموکراسی استفاده شده است. او در گفته‌هایش اغراق نکرد. آنچه اتفاق می‌افتد موج جدیدی از اخبار جعلی یا دخالت خارجی نیست، بلکه فروپاشی اعتماد به خود فرآیند دموکراتیک است. بزرگترین خطر از کمپین‌های اطلاعات نادرست، تحریف و محتوای طنز ناشی می‌شود. در سال 2020، اطلاعات نادرست و ویدیوهایی وجود خواهد داشت که سیاستمداران هرگز نگفته‌اند! اما مشکل این است که سال 2025 متفاوت خواهد بود. دروغ‌هایی که از مردم می‌آیند تا زمانی که سعی در فریب ما نداشته باشند، از آنها نمی‌آیند. در عوض، آنها از دستگاه‌های تکنولوژیکی و الگوریتم‌هایی می‌آیند که قادر به جعل هویت هر کسی، در هر کجا و هر زمان هستند. ما قبلاً جزئیاتی از آنچه فرض می‌کنیم در آینده اتفاق خواهد افتاد، دیده‌ایم، سال گذشته یک ویدیوی جعلی انتخابات ریاست جمهوری ایرلند را که در آن کاترین کانلی، نامزد انتخابات، انصراف خود را از رقابت اعلام کرد، به لرزه درآورد. در عرض چند ساعت، این ویدئو در رسانه‌های اجتماعی پخش شد و حتی اتاق‌های خبر سعی کردند این خبر را تأیید کنند، اما نتوانستند از انتشار آن جلوگیری کنند. کانلی در واقع انصراف نداده بود، اما آسیب آنقدر زیاد بود که مردم قبل از آشکار شدن حقایق، خبر را باور کردند. واضح است که دموکراسی مبتنی بر شایستگی یا حتی شفافیت نیست، بلکه مبتنی بر این باور است که حقیقت وجود دارد و می‌توان بر سر آن توافق کرد یا آن را خلق کرد. همانطور که فرانسیس فوکویاما، متفکر و دانشمند سیاسی، به من گفت، "دموکراسی در مورد مشروعیت است، نه فقط از طریق انتخابات، بلکه از طریق اعتقاد به خود سیستم." هوش مصنوعی این باور را تضعیف می‌کند زیرا باعث ایجاد شک و تردید می‌شود. هوش مصنوعی نه تنها گسترش دروغ را تسریع می‌کند، بلکه با استفاده از چهره‌ها و ترس‌های ما به عنوان مواد خام، دنیایی کاملاً دروغین ایجاد می‌کند، اما اکثر دولت‌ها هنوز در حال جنگیدن در جنگ اشتباهی هستند. آنها در پرداختن به هوش مصنوعی به عنوان یک مسئله نظارتی در مورد حق چاپ، حریم خصوصی و امنیت ملی کوتاهی می‌کنند. بله، اینها مسائل مهمی هستند، اما اصل مشکل نیستند. آنچه در خطر است مالکیت معنوی نیست، بلکه مرز بین حقیقت و دروغ است. این مرز در حال محو شدن است. همانطور که بن بوکانان و اندرو امبری در کتاب خود، آتش جدید: جنگ، صلح و دموکراسی در عصر هوش مصنوعی، می‌نویسند، نبرد واقعی بر سر داده‌ها یا قدرت محاسباتی نیست، بلکه بر سر کنترل خود ادراک است. هوش مصنوعی در حال تعریف مجدد قدرت در دموکراسی‌ها و رژیم‌های اقتدارگرا است. این هشدار اکنون از تئوری به واقعیت تبدیل شده است. کنت پولاک، تحلیلگر سابق سیا و معاون رئیس موسسه سیاست خاورمیانه، به من گفت: "مقامات آموخته‌اند که کنترل اطلاعات مهم‌تر از کنترل قلمرو است." ما این را در روسیه، چین و بخش‌هایی از خاورمیانه می‌بینیم، و رهبرانی که در گفتن داستان خوب هستند، نیازی به خوب گفتن حقیقت ندارند. هوش مصنوعی این درس را در مقیاسی بی‌سابقه قابل اجرا می‌کند. چیزی که باید ما را نگران کند، هرج و مرج نیست، بلکه خستگی است - بی‌تفاوتی جمعی که پس از سیل دروغ و سر و صدا ایجاد می‌شود. همانطور که کاتز به سادگی بیان می‌کند: مرگ دموکراسی شبیه کودتا نیست، بلکه شبیه آهی جمعی است. مردم دموکراسی را به دلیل نفرت از آن رد نمی‌کنند، بلکه به این دلیل که حقیقت دست نیافتنی شده است و دستکاری در این فضا رونق می‌گیرد. بدترین حالت زمانی اتفاق نمی‌افتد که شهروندان عصبانی باشند، بلکه زمانی است که هیچ احساسی ندارند. وقتی دموکراسی‌ها از دیکتاتوری‌ها آزاد می‌شوند، از اطلاعات نادرست و جنگ‌ها آزاد می‌شوند. آنها همچنین می‌توانند از شر هوش مصنوعی خلاص شوند، اما تنها زمانی که شهروندان ماهیت تهدید را درک کنند: از نظر ظاهری، فناوری و از نظر ماهیت، اخلاقی. روزنامه‌نگاران باید به سرعت ابزارهای تأیید را توسعه دهند، زیرا دروغ‌پردازان روش‌های جدیدی برای فریب ابداع می‌کنند. دولت‌ها همچنین باید به عنوان بخشی از دفاع ملی با یکپارچگی اطلاعات برخورد کنند. موسسه ملی دموکراتیک و مجمع جهانی اقتصاد تأکید می‌کنند که مبارزه با اطلاعات نادرست باید سنگ بنای دفاع ملی باشد. دفاع و امنیت. کشورهای اسکاندیناوی از همان ابتدا این موضوع را تشخیص دادند و با موفقیت آن را به سیاست‌های عملی تبدیل کردند. شهروندان نیز به نوبه خود مسئولیت دارند که نظمی را که دموکراسی بر آن بنا شده است، احیا کنند: پرسش، تأیید و مقاومت در برابر وسوسه باور آنچه می‌خواهند. اگر توانایی تشخیص حقیقت و دروغ را از دست بدهیم، و وقتی مرزهای بین واقعیت و جعل محو شود، راستگویان پیروز نمی‌شوند، بلکه کسانی که در جعل جعلی مهارت دارند، پیروز می‌شوند.