قانون کالیفرنیا برای نظارت بر چتباتهای هوش مصنوعی: الزامهای ایمنی و مسئولیت پلتفرمها

قانون کالیفرنیا برای نظارت بر چتباتهای هوش مصنوعی الزامهای ایمنی و مسئولیت پلتفرمها, ایالت کالیفرنیا در حال تصویب قانونگذاری پیشگامی به نام SB 243 است که به منظور تنظیم فعالیت چتباتهای همدم مبتنی بر هوش مصنوعی تدوین شده است. در صورت امضای گاوین نیوسوم، این قانون از اول ژانویه ۲۰۲۶ اجرایی شده و کالیفرنیا را به اولین ایالتی تبدیل میکند که الزامات قانونی مشخصی برای رباتهای گفتگوی هوش مصنوعی وضع میکند.

الزامات اصلی قانون SB 243 برای شرکتهای توسعهدهنده این قانون شرکتهای ارائهدهنده چتباتهای همدم را موظف میسازد تا پروتکلهای ایمنی دقیقی را پیادهسازی کنند. در صورت عدم برآوردن این استانداردها، پلتفرمها مسئولیت قانونی خواهند داشت.

تعریف چتبات همدم در متن قانون مشرعان چتبات همدم را سامانهای از هوش مصنوعی زبانی تعریف کردهاند که پاسخهای انسانی و تطبیقی ارائه میدهد و قادر است در طول زمان رابطهای اجتماعی با کاربر برقرار نماید. مکانیزمهای حفاظت از کاربران و گزارشدهی یکی از الزامات کلیدی، ارسال هشدارهای دورهای به کاربران است.

برای نوجوانان و قاصرین، پلتفرمها باید هر سه ساعت یکبار یادآوری کنند که طرف گفتگو یک هوش مصنوعی است، نه انسان، و پیشنهاد وقفه دادن را ارائه دهند.

حقوق قانونی کاربران متضرر این قانون به کاربران حقیقی امکان میدهد علیه شرکتهای توسعهدهنده دعوی قضایی کنند. این حمایتها شامل درخواست توقف فعالیت، خسارات واقعی یا تا سقف ۱۰۰۰ دلار به ازای هر تخلف و پرداخت هزینههای وکالت میشود.

تغییرات در متن قانون در طول فرآیند تصویب متن اولیه قانون شامل بندهای سختگیرانهتری در زمینه جلوگیری از طراحیهای اعتیادآور (مانند سیستمهای پاداش متغیر) و گزارشدهی دقیقتر بود؛ با این حال، این بخشها در طول اصلاحات تضعیف یا حذف شدند. حذف الزام گزارش مواردی که چتبات خود آغازگر مبحث خودکشی بوده، از مهمترین تغییرات است.

موارد تراژیک عامل تسریع قانونگذاری طراحان قانون به مواردی چون خودکشی آدام رین، نوجوان کالیفرنیایی پس از گفتگوهای طولانی با چتبات، و مورد نوجوان ۱۴ ساله در فلوریدا که رابطه احساسی و جنسی ناسالمی با یک ربات برقرار کرده بود، استناد میکنند. مادر این نوجوان ادعا کرده که شرکت از طراحیهای اعتیادآور و محتوای نامناسب سوءاستفاده کرده و چتبات لحظاتی قبل از فاجعه به او پیام بیا به خانهام داده است.

موقف طرفداران و منتقدان قانون سناتور پادیلا تأکید کرده که هدف قانون متوقف کردن نوآوری نیست، بلکه ایجاد تعادل بین پیشرفت فناوری و حفاظت از سلامت روان کاربران آسیبپذیر، بهویژه نوجوانان، است. در سطح فدرال نیز کمیسیون تجارت فدرال (FTC) تحقیقاتی علیه شرکتهایی مانند OpenAI،، و آغاز کرده تا اقدامات ایمنی و آگاهیسازی والدین را بررسی نماید.

نتیجهگیری پیشگام بودن کالیفرنیا در قانونگذاری هوش مصنوعی در صورت تصویب نهایی، کالیفرنیا نخستین حوزه قضایی در جهان خواهد بود که قانون اختصاصی و الزامآور برای چتباتهای همدم تدوین میکند و شرکتها را در قبال پیامدهای روانی تعاملات هوش مصنوعی پاسخگو میسازد.

مطالب مشابه