وقتی کودکی به دارو نیاز دارد، والدینش ممکن است درباره عوارض جانبی آن از پزشک یا داروساز سؤال کنند، بروشور دارو را بخوانند یا از مناسب بودن آن برای فرزندشان مطمئن شوند. جامعه پذیرفته است که داروها، حتی اگر فواید قابل‌توجهی داشته باشند، ممکن است با خطراتی همراه باشند؛ به همین دلیل، انتظار می‌رود پیش از عرضه آن‌ها، ایمنی‌شان به‌دقت بررسی شود.
در چنین شرایطی، تصمیم‌گیری درباره ایمنی دارو صرفاً به شرکتی که آن را تولید می‌کند واگذار نمی‌شود. نهادهای نظارتی عمومی با برخورداری از اختیارات قانونی، شواهد را بررسی می‌کنند و درباره تأیید دارو و موارد مصرف آن تصمیم می‌گیرند. آن‌ها همچنین ایمنی دارو را در ادامه پایش می‌کنند و در صورت لزوم می‌توانند محدودیت‌هایی اعمال کنند یا آن را از بازار خارج سازند.
اما چرا نباید انتظار مشابهی از هوش مصنوعی داشته باشیم؟
با توسعه سامانه‌های قدرتمندتر هوش مصنوعی، بخش قابل‌توجهی از تصمیم‌هایی که می‌توانند بر زندگی و آینده کودکان تأثیر بگذارند، همچنان در اختیار شرکت‌هایی قرار دارد که خود این فناوری‌ها را توسعه می‌دهند.
خطراتی که خانواده‌ها امکان اجتناب از آن‌ها را ندارند
کودکان هم‌اکنون در معرض آسیب‌های مرتبط با هوش مصنوعی قرار دارند؛ از پاسخ‌های ناایمن چت‌بات‌ها گرفته تا ابزارهایی که دیگران می‌توانند با استفاده از آن‌ها، تصاویر کودکان را به تصاویر جنسی‌شده تبدیل کنند. والدین می‌توانند اقداماتی احتیاطی انجام دهند، اما حفاظت مؤثر از کودکان تا حد زیادی به این بستگی دارد که شرکت‌ها محصولات خود را ایمن طراحی کنند و دولت‌ها نیز تدابیر حفاظتی را به اجرا بگذارند.
بااین‌حال، خطرات به تعامل مستقیم کودکان با چت‌بات‌ها یا ابزارهای هوش مصنوعی محدود نمی‌شود. خانواده‌ها در برابر پیامدهای گسترده‌تر توسعه این فناوری نیز ابزار چندانی برای محافظت از خود ندارند؛ پیامدهایی که می‌توانند خدمات درمانی، شبکه برق یا تأمین آب را مختل کنند.
هوش مصنوعی پیشرفته و عمومی، که با عنوان «هوش مصنوعی مرزی» (Frontier AI) نیز شناخته می‌شود، در کنار مزایای بالقوه خود، خطراتی جدی دارد. از جمله این خطرات می‌توان به توانایی کمک به حملات سایبری گسترده، سوءاستفاده‌های زیستی و احتمال اقدام سامانه‌های خودمختار به شیوه‌هایی اشاره کرد که انسان‌ها نتوانند به‌طور قابل‌اعتماد آن‌ها را نظارت یا متوقف کنند.
پیامدهای چنین مخاطراتی ممکن است از مسیر خدماتی که خانواده‌ها به آن‌ها وابسته‌اند، به کودکان برسد. برای مثال، اختلال طولانی‌مدت در بیمارستان‌ها می‌تواند درمان‌های فوری را به تأخیر بیندازد. قطع هم‌زمان برق، آب و ارتباطات ممکن است خانواده‌ها را در تأمین نیازهای اولیه با مشکل مواجه کند؛ وضعیتی که برای کودکانی که به تجهیزات پزشکی برقی وابسته‌اند، خطرناک‌تر خواهد بود. همچنین، یک حادثه زیستی گسترده می‌تواند موجب شیوع بیماری و تحت فشار قرار گرفتن نظام سلامت شود.
مسئله اساسی این است که والدین نمی‌توانند به معنای واقعی کلمه چنین خطراتی را برای خانواده خود بپذیرند یا رد کنند. امنیت آن‌ها به تصمیم‌هایی وابسته است که در جای دیگری گرفته می‌شوند؛ گاه از سوی سازمان‌هایی که خانواده‌ها حتی محصولاتشان را انتخاب نکرده‌اند.
رقابت شرکت‌ها، مسئولیت دولت‌ها
شرکت‌های هوش مصنوعی برای جذب سرمایه، به‌دست آوردن مشتری و حفظ برتری فناورانه با یکدیگر رقابت می‌کنند. دولت‌ها نیز به دنبال رشد اقتصادی‌اند و نگران وابستگی به فناوری‌های تحت کنترل کشورهای دیگر هستند. این فشارها ممکن است هم شرکت‌ها و هم دولت‌ها را از کند کردن روند توسعه، حتی در صورت وجود نگرانی‌های جدی، بازدارد.
یک شرکت ممکن است استدلال کند که اگر خودش محتاطانه عمل کند، رقیب کم‌احتیاط‌ترش به توسعه فناوری ادامه خواهد داد. دولت‌ها نیز ممکن است از وضع مقررات سخت‌گیرانه‌تر به دلیل احتمال از دست دادن سرمایه‌گذاری یا مزیت راهبردی خودداری کنند. اگر هر طرف، تصمیم طرف دیگر را بهانه ادامه مسیر قرار دهد، در نهایت این خانواده‌ها هستند که در معرض پیامدهای مجموعه این تصمیم‌ها قرار می‌گیرند.
به همین دلیل، ایمنی کودکان نباید به این امید وابسته باشد که همه بازیگران صنعت داوطلبانه در برابر فشارهای رقابتی مقاومت کنند. وجود الزامات مشترک و الزام‌آور می‌تواند مانع از آن شود که شرکت‌ها با کاهش استانداردهای ایمنی، از رقبای خود پیشی بگیرند. از سوی دیگر، چون توسعه هوش مصنوعی و پیامدهای آن به مرزهای ملی محدود نمی‌شود، همکاری بین‌المللی نیز ضرورت دارد.
حفاظت از کودکان، مسئولیت عمومی است
از دیدگاه نویسندگان مقاله، دولت‌ها باید حدود الزام‌آوری برای خطراتی که هوش مصنوعی متوجه عموم مردم می‌کند تعیین کنند. این تصمیم‌ها باید بر شواهد فنی مستقل و منافع افرادی استوار باشند که ممکن است تحت تأثیر این فناوری قرار بگیرند.
نهادهای مسئول باید تخصص، دسترسی به اطلاعات و اختیارات قانونی لازم را در اختیار داشته باشند و شرکت‌ها نیز موظف باشند نشان دهند که الزامات ایمنی را رعایت کرده‌اند.
این نظارت باید به‌اندازه‌ای زودهنگام باشد که خطرات در جریان توسعه فناوری نیز بررسی شوند، نه اینکه همه‌چیز به مرحله عرضه محصول موکول شود. اگر خطرات جدی و معتبر به‌طور کافی قابل ارزیابی یا کنترل نباشند، نهادهای مسئول باید بتوانند شرکت‌ها را به اصلاح سامانه‌ها ملزم کنند، دسترسی به آن‌ها را محدود سازند یا مانع توسعه و به‌کارگیری موارد پرخطر شوند.
در نهایت، والدین نباید ناچار باشند آسیب‌های قابل‌پیشگیری به فرزندانشان یا خطرات بالقوه فاجعه‌بار برای نسل کودکان را پیامد اجتناب‌ناپذیر تصمیم‌های شرکت‌های هوش مصنوعی بدانند. حفاظت از کودکان مستلزم آن است که دولت‌ها پیش از وقوع آسیب، حدود روشنی تعیین کنند و اجرای آن‌ها را تضمین کنند.
عنوان اصلی:
?Who Decides How Much AI Risk Our Children Should Face
تاریخ انتشار: ۱۲ اکتبر ۲۰۲۶
منبع: سازمان Safe AI for Children (SAIFCA)
لینک مقاله اصلی:
https://www.safeaiforchildren.org/who-decides-ai-risks-for-children/