ناظران، همه دهه گذشته را شاهد ظهور و افزایش موارد سوءاستفاده حکومت‌های سرکوبگر از تکنولوژی‌های نوظهور ذکر‌شده بوده‌اند. جمهوری خلق چین با اختلاف بسیار از دیگر حکومت‌های اقتدارگرا مشغول توسعه، آزمایش و راه‌اندازی سازوکارهای کنترل و سرکوب متکی به هوش‌مصنوعی است. در این ویدیو با ۱۱ نمونه از سوءاستفاده دولت‌های سرکوبگر از هوش‌مصنوعی و کلان‌داده‌ها آشنا می‌شویم.
این برنامه بخشی از جلسه چهارم دوره «استفاده موثر و امن از ابزارهای دیجیتال ویژه وکلا و مدافعان حقوق بشر» است که در آموزشکده توانا برگزارشده است.
۱۱ نمونه از سوءاستفاده دولت‌های سرکوبگر از هوش‌مصنوعی و کلان‌داده‌ها
۱- فن‌آوری تشخیص چهره و صدا
هم‌اینک در جمهوری خلق چین با نصب میلیون‌ها دوربین مداربسته و همچنین شبکه پیچیده و متکثری از اپلیکیشن‌های موبایل گرفته تا دوربین اماکن خصوصی و دولتی از چهره و دیگر مشخصات بیومتریک شهروندان برای کنترل نامحسوس استفاده می‌شود.
تصور کنید توسعه این تکنولوژی و استفاده از آن در راهروهای مترو، محل عابربانک‌ها و دوربین‌های مداربسته متعدد می‌تواند عرصه عمومی را کاملا زیر چتر کنترل دولتی قرار دهد تا جایی که کوچک‌ترین حرکت شهروندان نیز از دید الگوریتم‌های حساس، مثل تجمع و ملاقات چند شهروند در گوشه‌ای از پارک، مخفی نماند. همین تکنولوژی را می‌توان برای تشخیص صدای مکالمه یک یا چند‌صد فرد خاص از هر جای کره زمین و از خلال میلیون‌ها تماس تلفنی، مکالمه صوتی یا پیام‌رسان‌ها به کار گرفت.
۲- دستکاری شبکه‌های اجتماعی و افکار عمومی
ظهور وبلاگ‌ها و سپس شبکه‌های اجتماعی و سایت‌های تولید محتوا توسط شهروندان مانند YouTube، توییتر و فیس‌بوک، در میانه دهه ۲۰۰۰ میلادی، به چالشی بزرگ برای نظام‌های اقتدارگرا که برای کنترل کامل فضای رسانه‌ای تبدیل شد. شهروندان با انتشار انتقادات و گزارش ابعاد وسیع نقض حقوق بشر، احکام قضایی ناعادلانه و بدون محاکمه، به صورت مستند از ظلم و بی‌عدالتی پرده برداشتند. فعالان از این شبکه‌ها برای تشکل، سازماندهی و اعتراض مدنی بهره گرفتند. حکومت‌های سرکوبگر در مدت‌زمانی نسبتا کوتاه تلاش‌های خود را متوجه توسعه و استفاده از تکنولوژی دیجیتال برای سرکوب کردند. شما همه واژه‌هایی مانند بات و ربات را شنیدهاید، لشکری انبوه از کاربران غیر واقعی که با هدف نمایندگی غیرواقعی، جهت‌دهی، دستکاری و بعضا انحراف افکار عمومی سازماندهی می‌شوند. در مواردی بسیار وظیفه ایجاد اختلاف و چند‌دستگی میان منتقدان را بر عهده دارند یا به صورت دروغین حمایت کامل افکار عمومی از سیاست‌های نظام مستبد حاکم را برای دنیای بیرون روایت می‌کنند. با ظهور تکنولوژی‌های نوظهور نظیر هوش مصنوعی و کلان‌داده‌ها ایجاد و راهبری مجموعه‌های بزرگ و چند‌صد‌هزار‌نفری از پروفای‌لهای دروغین در فضای مجازی ساده‌تر شده است.
۳- آزار و اذیت، جعل و ترور شخصیت
بسیاری از شما موارد خلق و انتشار تصاویر یا صدای جعلی سیاستمداران را که با بهره‌گیری از هوش مصنوعی خلق شده‌اند و به ویدئو یا صدای واقعی ایشان شباهت بسیار دارند حتما دیده‌اید. محتوایی که از آن با نام Deep Fake از آن یاد می‌شود.
امروزه با دستکاری شبکه‌های اجتماعی، از تکنولوژی برای زیر‌سوال‌بردن گروهیِ روایت قربانیان نقض حقوق بشر یا گزارشگران طرفدار عدالت استفاده می‌شود. به این ترتیب که انبوهی از حساب‌های کاربری در شبکه‌های اجتماعی که توسط نرم‌افزارهای پیچیده هدایت می‌شوند، دست به ترور شخصیت مخالفان، منتقدان و فعالان حقوق بشر می‌زنند، آن‌ها با بهره‌گیری از الگوریتم جذب مخاطب در این پلتفرم‌ها و سایت‌های اشتراک محتوا و همچنین شیوه‌های پیشرفته داده‌کاوی از کاربران – بر اساس ویژگی‌ها و تعلقات این افراد – حتی بدون نیاز به ارعاب، بازداشت و آزار فیزیکی، به صورت دیجیتالی و آنلاین، فعالان را مورد اذیت و آزار قرار می‌‌دهند.
۴- دسته‌بندی و ایجاد پروفایل برای گروه‌های اجتماعی
در سال‌های گذشته اطلاعات و شواهدی مفصل از آزار گرفته تا تعقیب دسته‌جمعی، بازداشت و بازآموزی در اردوگاه‌های کار اجباری علیه اقلیت اویغور مسلمان در چین منتشر شده است. بر اساس این اطلاعات بخشی از شناسایی و کنترل فعالیت‌های شهروندان اویغور در چین، با استفاده از شیوه‌های پیچیده دیجیتال انجام می‌پذیرد. سوءاستفاده از هوش مصنوعی برای طبقه‌بندی، شناسایی و داده‌کاوی (Data mining) شهروندان توسط الگوریتم‌های هوش مصنوعی – مثلا بر اساس رنگ پوست، مشخصات نژادی یا شیوه پوشش آنان – می‌تواند به سطحی بی‌سابقه از تبعیض مثلا در فرودگاه‌ها، اماکن عمومی یا توسط پلیس بیانجامد.
۵- فیلترینگ، محدودیت دسترسی به محتوا
شما هم حتما واژه فیلترینگ هوشمند را بسیار شنیدهاید. فیلترینگ هوشمند رویای حکومت‌های سرکوبگر برای فیلتر گزینشی بخشی از محتواهایی است که به زعم آن‌ها مشکل‌ساز است. اگر انسداد و قطع کامل اینترنت به نارضایتی گسترده عمومی می‌انجامد تلاش این دسته از نظامها بر بهره‌گیری از فن‌آوری نظیر هوش مصنوعی برای انسداد گزینشی محتوا متمرکز می‌شود. مثلا بر خلاف شیوه‌های سابق، مثل انسداد نام دامنه، که می‌توانست با استفاده از شیوه‌هایی چون پروکسی از سوی شهروندان، دور‌زده شود این بار محتوی متنی یا تصویری با بهره‌گیری از هوش مصنوعی به دنبال تصاویر یک اعتراض یا نشان سمبل یک گروه منتقد واکاوی و فیلتر می‌شود.
۶- داده‌کاوی و شناسایی مخالفان
داده‌کاوی (Data Mining)، استفاده از یادگیری ماشین، کار با مجموعه‌های انبوه کلان‌داده و کشف الگوها و نتایج جستجو از خلال واکاوی و فهم اطلاعات انبوه است. فرض کنید مجموعه‌ای چند‌صد‌میلیونی از فعالیت میلیون‌ها کاربر توییتر فارسی در ماه‌های اخیر را در اختیار دارید. با واکاوی این داده‌ها مثلا به دنبال الگوهای متنی مشخص، نگارش توسط یک کاربر خاص احتمالا می‌توان هویت او را حتی در حالت فعالیت با نام مستعار در توییتر با سطحی از تقریب جستجو کرد.
۷- کنترل اجتماعی از طریق امتیازبندی
در جمهوری خلق چین، نظام حاکم حتی امروز از نوعی فن‌آوری پیچیده امتیازبندی اجتماعی برای کنترل شهروندان استفاده می‌کند. در حالی که وابستگی به حزب حاکم کمونیست و شرکت در کمپین‌های مختلف آن برای شهروند امتیاز مثبت به ارمغان می‌آورد و برعکس انتقاد از این حزب در شبکه‌های اجتماعی و سیاه‌نمایی آن، از امتیاز او خواهد کاست. شهروندان با از دست‌دادن امتیازات اجتماعی خود مثلا دیگر قادر به اخذ وام و تسهیلات بانکی نخواهند بود و می‌بایست راهی برای جبران و کسب امتیاز مثبت بیابند.
۸- تعقیب و مراقبت و شنود
حتما در گذشته نه‌چندان دور، تصاویر فیلم‌های سینمایی از شنود تلفن تبهکاران یا تعقیب آنان با خودرو توسط ماموران پلیس را دیده‌اید. این روشی بود که در گذشته از آن استفاده می‌شد، اما امروز نظام‌های تمامیت‌خواه با جدیت به دنبال توسعه شیوه‌های دیجیتال تشخیص مخالفت و انتقاد و سپس شنود خودکار، تعقیب رفت‌‌و‌آمدهای فرد منتقد مثلا با استفاده از تلفن همراه خود او یا ضبط خودکار مکالمات یا تصاویر افراد مرتبط با آن فرد منتقد هستند.
۹- دستکاری نتایج انتخابات
همان‌گونه که در جریان کشف شبکه IRA از تلاش گسترده با منشاء روسیه و با هدف تاثیر بر انتخابات در کشورهای آزاد، پرده‌برداشته شد، می‌توان انواع و اقسام عملیات انحراف و تاثیرگذاری بر نتایج انتخابات توسط دولت‌های اقتدارگرا را رصد کرد. از ایجاد شبهه و تردید نسبت به سلامت انتخابات، تا رادیکالیزه‌کردن فضای انتخاباتی و ایجاد درگیری و همچین ترور شخصیتی و تخریب نامزدهای مختلف، همه و همه امروز با بهره‌گیری از آخرین امکانات پیشرفته تکنولوژی دیجیتال نظیر هوش مصنوعی توسط این نظامها دنبال می‌شوند.
۱۰- دستکاری پرونده‌های قضایی و فساد
اگر با تلاش فعالان حقوقی مستقل و کنشگران جامعه مدنی مواردی از فساد و سوءاستفاده افشا شود، باز با استفاده از هوش مصنوعی مثلا با جعل اسناد و دستکاری پایگاه‌های بزرگ داده، مثل پایگاه‌های ملی ثبت سند، روایت فاش‌کنندگان فساد زیر سوال می‌رود. همان‌گونه که در مبحث Deep Fake اشاره شد خلق یک تماس تلفنی جعلی، اسناد جعلی و حتی ویدئوی تقطیع‌شده و بازسازی‌شده توسط هوش مصنوعی می‌تواند فرجام دیگری را برای یک پرونده قضایی پرسروصدا رقم زند.
۱۱- حملات هکری و سرقت داده‌ها
در سال‌های گذشته حملات سایبری با پیچیدگی بیش از پیش با بهره‌گیری از یادگیری ماشین در ابعادی بسیار فراتر از حملات با منشا یک یا چند هکر، دولت‌ها، موسسات، گروه‌ها و اشخاص مختلف در سراسر جهان را هدف قرار داده‌اند. با بهره‌گیری از تکنولوژی مشابه، ایرادات و حفره‌های امنیتی سیستم‌های کامپیوتری و تلفن‌های همراه قربانیان کشف و با انگیزه‌های مختلف داده‌های ایشان به سرقت می‌رود. البته همان‌طور که پیش‌تر ذکر شد از همین نوآوری‌ها می‌توان برای مقابله و حفاظت از شهروندان در برابر این‌گونه حملات نیز استفاده کرد.
استفاده گسترده و به نوعی شیفتگی و علاقه نظام‌های تمامیت‌خواه به استفاده از آخرین یافته‌های مبتنی بر تکنولوژی اطلاعات نظیر هوش مصنوعی، آینده‌ای مبهم را پیش روی فعالان حقوق و قضا در این کشورها قرار داده است. این تکنولوژی‌ها مانند شمشیر دولبه قادرند شیوه‌های کنونی دفاع از حقوق اساسی شهروندان و اثبات ظلم و تعدی دولتی را با مشکل مواجه کنند، هر چند همان‌گونه که پیش‌تر عنوان شد، ممکن است به شهروندان عادی، فعالان جامعه مدنی و دیگر کنشگران نیز برای ایستادگی در برابر اقتدار نظام حاکم کمک کنند.