به گزارش روش سئو، تبانی انحصارگرایانه اتحادیه اروپا، ایالات متحده و بریتانیا برای توسعه هوش مصنوعی با امضای اولین معاهده طی روزهای اخیر، سایه انحصار و تبعیض را بر سر فناوری سنگین تر کرد.
خبرگزاری مهر – گروه دانش و فناوری؛ سید رضا حسینی: شورای اروپا، سازمانی بین المللی و متمایز از اتحادیه اروپا که با ۴۶ کشور عضو همچون کل ۲۷ کشور اتحادیه اروپا مأموریت محافظت از حقوق بشر را بر عهده دارد، طی روزهای اخیر اعلام نمود که اولین معاهده بین المللی اجبار آور حقوقی در زمینه هوش مصنوعی توسط کشورهای مذاکره کننده همچون اعضای اتحادیه اروپا، ایالات متحده و بریتانیا امضا شده است. این کنوانسیون هوش مصنوعی، سال ها در دست تهیه بوده و در ماه می بعد از مذاکرات طولانی، سر انجام توسط ۵۷ کشور حاضر در فرآیند تدوین، نهایی و تصویب گردید. این معاهده به خطرات احتمالی هوش مصنوعی می پردازد و در عین حال نوآوری مسئولانه این فناوری را ترویج می کند. اعضای کنوانسیون، ۴۶ کشور عضو شورای اروپا، به همراه کانادا، ژاپن، مکزیک، واتیکان، ایالات متحده آمریکا، استرالیا، آرژانتین، کاستاریکا، پرو، اروگوئه و رژیم صهیونیستی را شامل می شوند. طبق اعلام متولیان تدوین معاهده جهانی مذکور، این سند بین المللی با نام «کنوانسیون چارچوب شورای اروپا در زمینه هوش مصنوعی و حقوق بشر، دموکراسی و حاکمیت قانون» بعنوان یک چارچوب قانونی جهانی طراحی شده و هدف آن تضمین سازگاری فعالیتهای در رابطه با چرخه عمر سیستم های هوش مصنوعی با حقوق بشر، دموکراسی و حاکمیت قانون است. طبق گزارش های انتشار یافته، پیش نویس معاهده در ۵ سپتامبر ۲۰۲۴ در شهر ویلنیوس، پایتخت لیتوانی به امضا رسیده است و بخشی از تلاشهای گسترده تر شورای اروپا برای همگرایی بیشتر کشورهای عضو در حوزه های در رابطه با فناوری و حقوق بشر به حساب می آید. مهر در این گزارش کوتاه به بررسی محورهای کلیدی، دیدگاه متخصصان و فرصت ها و تهدیدات این معاهده جهانی می پردازد. محورهای اصلی معاهده جهانی هوش مصنوعی طبق ادعای مطرح شده از جانب تدوین کنندگان و متن انتشار یافته این سند جهانی شامل چند محور اصلی است که به موضوعات حقوقی و اخلاقی استفاده از هوش مصنوعی می پردازد. در این بخش بعضی از ارکان اساسی معاهده مذکور را مرور می نماییم. ۱. پشتیبانی از حقوق بشر این محور به شکل مستقیم به اهمیت محافظت از حقوق بشر در تمام مراحل توسعه، استفاده و حتی توقف کاربری سیستم های هوش مصنوعی اشاره دارد. به عقیده متخصصان، این فناوری می تواند تأثیرات عمیقی بر زندگی افراد بگذارد و بعنوان ابزاری برای بهبود زندگی انسانی عمل کند، اما اگر به درستی تنظیم گری نشود، امکان دارد باعث نقض حقوق اساسی مانند حق حریم خصوصی، آزادی بیان و حتی حق حیات شهروندان شود. از همین روی، این معاهده از کشورهای عضو می خواهد که مقرراتی وضع کنند تا مطمئن شوند فعالیتهای هوش مصنوعی نه تنها حقوق بشر را نقض نمی کند، بلکه به ترویج و پشتیبانی از این حقوق می پردازد؛ بنابراین، کشورها باید سیستم های نظارتی اختصاصی را برای شناسایی و پاسخ به تهدیدات احتمالی موجود برای حقوق بشر در هر مرحله از چرخه عمر هوش مصنوعی بوجود آورده و به کار گیرند. ۲. حاکمیت قانون و دموکراسی یکی از دغدغه های بزرگ در استفاده از هوش مصنوعی اینست که فناوری مذکور می تواند برای تضعیف روندهای دموکراتیک یا نهادهای دموکراتیک مانند قوه قضاییه، انتخابات و رسانه های آزاد مورد استفاده قرار گیرد. بعنوان مثال، استفاده از هوش مصنوعی در تبلیغات سیاسی یا ترویج اطلاعات غلط و اخبار جعلی می تواند اعتماد عمومی را به انتخابات و روندهای دموکراتیک تضعیف کند. در این راستا معاهده تاکید می کند که سیستم های هوش مصنوعی باید طوری طراحی و مدیریت شوند که به حاکمیت قانون و ارزش های دموکراتیک احترام بگذارند. همینطور معاهده از کشورها می خواهد تا اطمینان حاصل کنند که هوش مصنوعی بعنوان ابزاری برای دسترسی عادلانه به عدالت و استقلال قضایی به کار گرفته می شود. ۳. اصل شفافیت بر مبنای متن معاهده، شفافیت یکی دیگر از مهم ترین اصول در استفاده از فناوری هوش مصنوعی به حساب می آید. به سبب پیچیدگی این سیستم ها و تصمیم گیری های خودکار آنها، امکان دارد فهمیدن چگونگی عملکرد این سیستم ها برای عموم مردم یا حتی مسئولین دشوار باشد. در چنین شرایطی عدم شفافیت می تواند به کاهش اعتماد عمومی به فناوری منجر شود. معاهده از کشورها می خواهد تا مکانیزم هایی برای شفافیت ایجاد کنند. این درخواست شامل عرضه اطلاعات کافی به مردم در رابطه با چگونگی عملکرد سیستم های هوش مصنوعی، نحوه تصمیم گیری آنها و شفاف سازی مسئولیت نتایج این تصمیمات می شود. همچنین، معاهده پیشنهاد می دهد که نظارت های مستقل جهت بررسی استفاده از هوش مصنوعی در بسترهای مختلف میسر گردد. ۴. مسئولیت پذیری و پاسخگویی در صورتیکه یک سیستم هوش مصنوعی سبب نقض حقوق بشر یا ایجاد صدمه های دیگر شود، پرسش کلیدی اینست که چه کسی مسئول خواهد بود. پاسخگویی در این حوزه اهمیت زیادی دارد، چونکه خیلی از سیستم های هوش مصنوعی به شکل خودکار عمل می کنند و عملکرد آنها گاهی پیچیده تر از آن است که بتوان یک شخص یا نهاد خاص را مسئول دانست. این معاهده از کشورها می خواهد تا سازوکارهایی برای تعیین مسئولیت ها و پاسخگویی در نظر بگیرند. این سازوکارها باید بگونه ای طراحی شوند که اگر یک سیستم هوش مصنوعی به اشتباه عمل کند و حقوق بشر را نقض نماید، بتوان اقدامات قانونی و جبران خسارت برای افراد صدمه دیده در نظر گرفت. ۵. عدم تبعیض و برابری دیگر مساله نگران کننده در توسعه و استفاده از هوش مصنوعی امکان بروز تبعیض از جانب سیستم های مبتنی بر این فناوری است. الگوریتم های هوش مصنوعی بر پایه داده های تاریخی آموزش می بینند و اگر این داده ها دارای سوگیری و محتوای تبعیض آمیز باشند، امکان دارد نتایج هوش مصنوعی هم تبعیض آمیز باشند. به صورت مثال، امکان دارد در تصمیم گیری های شغلی یا اقتصادی، زنان یا اقلیت های قومی به شکل ناعادلانه هدف تبعیض قرار گیرند. از همین روی، معاهده تاکید دارد که همه فعالیتهای در رابطه با چرخه عمر هوش مصنوعی باید برابری جنسیتی و عدم تبعیض را محترم بشمارند. این معاهده از کشورها می خواهد که مقررات لازم برای پیشگیری از بروز تبعیض در استفاده از هوش مصنوعی را وضع و از دستیابی به نتایج منصفانه و عادلانه در این حوزه حمایت کنند. ۶. محافظت از حریم خصوصی و داده های شخصی با گسترش استفاده از سیستم های هوش مصنوعی، خطرات در ارتباط با نقض حریم خصوصی و استفاده نادرست از داده های شخصی هم افزایش پیدا کرده است. سیستم های هوش مصنوعی معمولا به حجم عظیمی از داده های شخصی نیاز دارند تا بتوانند به درستی عمل کنند و این مساله می تواند تهدیدی جدی برای حفظ حریم خصوصی افراد ایجاد نماید. به همین دلیل، این معاهده بر ضرورت محافظت از حریم خصوصی و داده های شخصی افراد هم تاکید دارد و از کشورها می خواهد که برای اطمینان از تحقق این هدف، قوانین و مقررات لازم را وضع کنند. ۷. نوآوری مسئولانه و ایمن معاهده همینطور به کشورها سفارش می کند که نوآوری در حوزه هوش مصنوعی را تشویق کنند، اما در عین حال، این نوآوری باید مسئولانه و ایمن باشد. به این معنا که توسعه سیستم های هوش مصنوعی باید تحت نظارت باشد و کشورها باید فضاهای آزمایشی و کنترلی را برای توسعه و تست این فناوری ها ایجاد کنند. دستیابی به این مهم، به کشورها اجازه می دهد تا ضمن تشویق نوآوری و پیشرفت های فناوری، اطمینان حاصل کنند که این نوآوری ها به تهدیدی برای حقوق بشر یا دموکراسی تبدیل نمی شوند. این محور بر اهمیت تعادل بین پیشرفت فناوری و محافظت از ارزش های انسانی تاکید می کند. نقاط قوت و ضعف کنوانسیون هوش مصنوعی شورای اروپا در این بخش به بررسی نقاط قوت و ضعف معاهده «کنوانسیون چارچوب شورای اروپا در زمینه هوش مصنوعی و حقوق بشر، دموکراسی و حاکمیت قانون» پرداخته می شود. باآنکه این معاهده نقاط قوت قابل توجهی دارد، اما همچنان با برخی چالش های جدی هم مواجه می باشد. نقاط قوت: ۱. تاکید بر حقوق بشر و ارزش های دموکراتیک یکی از مهم ترین نقاط قوت این معاهده، تاکید بسیار زیاد آن بر محافظت از حقوق بشر و تضمین سازگاری هوش مصنوعی با ارزش های دموکراتیک است. معاهده تضمین می نماید که فناوری هوش مصنوعی نباید بعنوان ابزاری برای نقض حقوق بشر یا تضعیف نهادهای دموکراتیک استفاده گردد. ۲. تاکید بر شفافیت و پاسخگویی معاهده به شفافیت در استفاده از هوش مصنوعی اهمیت ویژه ای می دهد. خیلی از مشکلات در رابطه با هوش مصنوعی همچون تصمیم گیری های خودکار و غیرشفاف، به عدم درک عمومی و حتی دولتی از نحوه عملکرد این سیستم ها برمی گردد. ۳. ایجاد چارچوبی برای همکاری بین المللی کشورهای همسو به عقیده متخصصان، یکی دیگر از نقاط قوت این معاهده، ایجاد یک چارچوب مدون برای تقویت همکاری بین المللی میان کشورهای غربی در زمینه هوش مصنوعی است. ۴. انعطاف پذیری در اجرا این معاهده انعطاف پذیری بالایی برای کشورهای عضو در روش اجرای آن فراهم نموده است. به عبارت دیگر، هر کشور بر مبنای شرایط داخلی خود می تواند مقررات و تدابیری سازگار با نیازهایش را اتخاذ کند. نقاط ضعف ۱. عدم حضور بازیگران بزرگ بین المللی همچون چین و روسیه یکی از بزرگ ترین ضعف های این معاهده، عدم حضور کشورهای بزرگ غیرعضو شورای اروپا همچون چین و روسیه است. این کشورها از پیشگامان توسعه و استفاده از فناوری های هوش مصنوعی هستند و عدم مشارکت آنها می تواند به ایجاد شکاف در تنظیم گری جهانی منجر شود. این مساله نه تنها از نظر اقتصادی و فناورانه، بلکه از نظر سیاسی هم امکان دارد سبب ایجاد نوعی انحصار از جانب کشورهای غربی شود و همکاری بین المللی در حوزه هوش مصنوعی را تضعیف کند. ۲. چالش در اجرای عملی مفاد معاهده هرچند معاهده چارچوبی جامع و اصولی را عرضه می دهد، اما چالش های زیادی در اجرای عملی آن وجود دارد. به عقیده کارشناسان، کشورهای عضو امکان دارد با مشکلات مالی و فنی برای پیاده سازی سازوکارهای مورد نیاز مواجه شوند. بخصوص کشورهایی که از نظر فناوری و زیرساخت ها در وضعیت ضعیف تری قرار دارند، امکان دارد توانایی کافی برای اجرای مؤثر این معاهده نداشته باشند. ۳. فقدان مکانیزم های قوی برای ضمانت اجرایی طبق نظر متخصصان، یکی دیگر از ضعف های این معاهده عدم وجود مکانیزم های قوی مجازات برای کشورهای ناقض تعهدات است. در صورتیکه یکی از کشورهای عضو، مفاد معاهده را رعایت نکند یا قوانین مناسبی برای محافظت از حقوق بشر در زمینه هوش مصنوعی وضع نکند، معاهده مکانیزم های کارآمد برای برخورد با چنین مواردی در نظر نگرفته است. ۴. عدم پوشش حوزه های امنیتی و نظامی با این که استفاده از هوش مصنوعی در حوزه های امنیتی و نظامی یکی از مهم ترین مسائل جهانی به حساب می آید، این معاهده بطور دقیق تر به این حوزه ها نمی پردازد و آنها را از دامنه موضوعات مورد بررسی خود مستثنا کرده است. با عنایت به تأثیرات بزرگ هوش مصنوعی در حوزه های امنیتی و دفاعی، عدم پوشش این بخش ها یکی از نقاط ضعف اساسی به حساب می آید. ۵. کندی در تصویب و اجرای جهانی در نهایت میتوان اظهار داشت که معاهده نیازمند تصویب و اجرا توسط کشورهای عضو شورای اروپا است و این فرایند امکان دارد کند و زمان بر باشد. کشورهای عضو امکان دارد زمان زیادی برای تصویب مقررات داخلی و اجرایی کردن مفاد معاهده نیاز داشته باشند؛ امری که می تواند سرعت پیشرفت تنظیم گری در حوزه هوش مصنوعی را کم کند. چالش عدم جهان شمولی؛ تهدیدی برای توسعه عادلانه هوش مصنوعی در جهان به زعم بسیاری کارشناسان، عدم حضور قدرت های جهانی مانند چین و روسیه و همینطور سایر کشورهای توانمند این حوزه در مناطق جنوب شرقی و غرب آسیا، همچون کره جنوبی، مالزی، سنگاپور و … در کنوانسیون هوش مصنوعی شورای اروپا مهم ترین نقطه ضعف این معاهده اجبار آور به حساب می آید و می تواند تبعات قابل توجهی بر توسعه هوش مصنوعی و نظم بین المللی فناوری ایجاد نماید. در ادامه، به ارزیابی دقیق تر این مساله و بررسی نتایج این چالش می پردازیم. یکی از اصلی ترین تبعات عدم حضور کشورهای مذکور در این معاهده، شکاف در همکاریهای بین المللی در حوزه تنظیم گری هوش مصنوعی است. چین و روسیه بعنوان دو کشور بزرگ و پیشگام جهان در توسعه این فناوری و سایر بازیگران برجسته این حوزه نقشی کلیدی در معادلات جهانی آن ایفا می کنند. بی گمان عدم مشارکت آنها در این معاهده سبب می شود که نوعی دوگانگی در نگاههای حقوقی و تنظیم گرانه نسبت به هوش مصنوعی بین کشورهای عضو معاهده و کشورهای غیرعضو، به وجود آید. این امر می تواند سبب ایجاد تفاوت های بزرگ در نحوه ی استفاده و نظارت بر هوش مصنوعی در سراسر دنیا شود. از طرفی، یکی از نتایج عدم حضور برخی کشورهای کلیدی در این معاهده، امکان ایجاد انحصار در حوزه هوش مصنوعی توسط کشورهای غربی و بخصوص اعضای شورای اروپا و آمریکا است. کشورهای غربی که عضو این معاهده هستند، می توانند با تعیین استانداردهای جهانی برای توسعه این فناوری، سایر کشورها را تحت فشار قرار دهند تا از این استانداردها پیروی کنند. به زعم برخی کارشناسان، این مساله می تواند منجر به وضع مقرراتی شود که به نفع کشورهای غربی و به زیان سایر بازیگران فعال این حوزه باشد. از همین روی امکان دارد کشورهای درحال توسعه که دسترسی کمتری به فناوری های پیشرفته دارند، بطور دقیق تر تحت فشار قرار گیرند. این مساله می تواند به محدودسازی توانایی این کشورها برای توسعه و بهره برداری از فناوری های هوش مصنوعی به روشی متناسب با نیازهای خاص خود، منجر شود. یکی دیگر از تبعات مهم عدم جهان شمولی معاهده، احتمال محدود شدن دسترسی بسیاری از کشورهای غیرعضو به بازارهای بین المللی است. کشورهای عضو معاهده امکان دارد استفاده از سیستم های هوش مصنوعی توسعه یافته در کشورهای غیرعضو را به سبب عدم تطابق با استانداردهای کنوانسیون ممنوع یا محدود کنند. این امر می تواند به تفکیک بازارهای جهانی هوش مصنوعی منجر گردد، به صورتی که سیستم های توسعه یافته در چین و روسیه یا کره و سنگاپور نتوانند به بازارهای غربی دسترسی پیدا کنند و همینطور امکان ورود محصولات غربی هم به بازارهای مذکور، محدود یا ممنوع شود. از منظر دیگر، عدم حضور قدرت هایی چون چین و روسیه در این معاهده همینطور می تواند به توسعه مدلهای جایگزین برای تنظیم گری هوش مصنوعی توسط این کشورها منجر شود. احتمالا رقبای بزرگ غرب در واکنش به شکل گیری استانداردهای غربی، به دنبال ایجاد و ترویج چارچوب ها و استانداردهای خاص خود در زمینه هوش مصنوعی خواهند بود. استانداردهایی که با اصول و ارزش های غربی متفاوت هستند و همین مساله منجر به ظهور دو سیستم موازی در جهان می شود. در چنین وضعیتی، به ویژه چین به سبب جایگاه خود بعنوان یکی از رهبران جهان در حوزه هوش مصنوعی و فناوری دیجیتال، می تواند استانداردهای جدیدی را توسعه دهد که کشورهای درحال توسعه آسیا و آفریقا از آن پیروی کنند. این امر امکان دارد به قطبی شدن جهانی در زمینه فناوری و تشدید رقابت های ژئوپلیتیکی منجر شود. در نهایت عدم حضور سایر کشورهای بزرگ و اثرگذار در این معاهده و شکل گیری نظام های موازی تنظیم گری این فناوری در سطح جهان، می تواند سبب محدودیت در دسترسی کشورهای غیرعضو به فناوری های پیشرفته هوش مصنوعی شود. کشورهای عضو معاهده امکان دارد به سبب عدم تطابق با استانداردهای مشترک، از به اشتراک گذاری دانش و فناوری های هوش مصنوعی با کشورهای غیرعضو اجتناب کنند. این امر بخصوص برای کشورهایی که منابع کافی برای توسعه مستقل فناوری های هوش مصنوعی ندارند، مشکل ساز خواهد بود. بعنوان مثال، کشورهای درحال توسعه که به منابع و تخصص کشورهای پیشرفته تر وابسته هستند، در دسترسی به فناوری های حیاتی هوش مصنوعی محدود می شوند. این مساله می تواند سبب ایجاد نابرابری های جهانی در دسترسی به فناوری های هوش مصنوعی و کاهش توانایی کشورهای غیرعضو در توسعه اقتصادی و اجتماعی شود. سخن پایانی معاهده شورای اروپا در زمینه هوش مصنوعی گامی مثبت در جهت ایجاد چارچوبی حقوقی جهت استفاده از این تکنولوژی نوظهور به حساب می آید. با این حال، توافق مذکور با برخی چالش های جدی هم مواجه می باشد. از یک سو، این معاهده تلاشی پرارزش برای محافظت از حقوق بشر و دموکراسی در مقابل خطرات هوش مصنوعی به شمار می آید و اصولی مانند شفافیت، پاسخگویی و عدم تبعیض را تقویت می کند. از طرفی، عدم حضور بازیگران بزرگ جهانی، محدودیت های این تلاش بین المللی را بیشتر از پیش برجسته می سازد. این عدم مشارکت نه تنها شکاف هایی در سطح تنظیم گری جهانی ایجاد کرده، بلکه احتمال می رود سبب شکل گیری استانداردهای موازی در سطح بین المللی شود. این امر امکان دارد به محدودیت دسترسی به بازارهای بین المللی و پیچیدگی های بیشتر برای کشورها و شرکتهای غیرعضو در معاهده منجر شود. بعلاوه، چالش های عملی در اجرای مؤثر این معاهده هم دیگر نقطه ضعف محسوس آن به حساب می آید. از همین روی، توجه بیشتر به تحولات جهانی این حوزه و کوشش برای نقش آفرینی مؤثر در حکمرانی جهانی هوش مصنوعی از جانب کشورهای مختلف جهان، بیشتر از پیش اهمیت یافته است و باید در دستور کار دولتمردان و قانون گذاران اقصی نقاط جهان قرار گیرد؛ قاعده ای که جمهوری اسلامی ایران و دولت چهاردهم هم از آن مستثنا نیست.
منبع: روش سئو
