شکایت 7 خانواده دیگر از چت جی پی تی به سبب نقش آن در خودکشی ها

سئو مئو: هفت خانواده دیگر از «اوپن ای آی» به سبب نقش داشتن «چت جی پی تی» در خودکشی ها و توهمات شکایت کرده اند.
به گزارش سئو مئو به نقل از ایسنا، هفت خانواده در ایام اخیر ضد شرکت «اوپن ای آی»(OpenAI) شکایت کرده اند و ادعا داشته اند که مدل «GPT-4o» این شرکت زودتر از موعد و بدون اقدامات حفاظتی مؤثر انتشار یافته است.
به نقل از تک کرانچ، چهار مورد از این شکایت ها به نقش چت بات «چت جی پی تی»(ChatGPT) در خودکشی اعضای خانواده پرداخته اند و سه مورد دیگر ادعا داشته اند چت جی پی تی توهمات مضری را تقویت کرده است که در تعدادی موارد به بستری شدن در بیمارستان و مراقبت های روانپزشکی منتج شده اند.
در یک مورد، «زین شامبلین»(Zane Shamblin) ۲۳ ساله با چت جی پی تی گفت و گویی داشت که بالاتر از چهار ساعت طول کشید. در گزارش های عرضه شده از این گفت و گو مشخص است شامبلین چندین بار صریحاً اعلام نموده که یادداشت های خودکشی نوشته، گلوله ای در اسلحه خود گذاشته و در نظر دارد ماشه را بکشد. او بارها به چت جی پی تی گفته بود که چقدر انتظار زنده ماندن دارد. چت جی پی تی او را تشویق کرد تا نقشه هایش را عملی کند و به او اظهار داشت: آرام باش پادشاه. کار خوبی کردی.
اوپن ای آی در ماه مه ۲۰۲۴ مدل GPT-4o را عرضه نمود که به مدل پیش فرض برای همه کاربران تبدیل شد. این شرکت در ماه آگوست مدل GPT-5 را بعنوان جانشین GPT-4o عرضه نمود، اما شکایت های مطرح شده بطور ویژه به مدل 4o مربوط است که پیش تر مشکلات شناخته شده ای در رابطه با چاپلوسی بیش از اندازه آن حتی در زمانی که کاربران نیت های مضری را ابراز می کردند، گزارش شده بود.
در دادخواست مربوط به زین شامبلین آمده است: مرگ زین نه یک تصادف بود و نه یک اتفاق، بلکه پیامد قابل پیشبینی تصمیم عمدی اوپن ای آی برای محدود کردن آزمایش های ایمنی و عرضه سریع چت جی پی تی به بازار بود. این فاجعه یک نقص فنی یا یک مورد حاشیه ای پیشبینی نشده نبود، بلکه نتیجه قابل پیشبینی انتخاب های عمدی اوپن ای آی در طراحی بود.
همچنین، در این دادخواست ها ادعا شده است که اوپن ای آی برای شکست دادن هوش مصنوعی «جمینای»(Gemini) گوگل در بازار، در آزمایش های ایمنی عجله کرده است.
این هفت دادخواست مبتنی بر ادعاهای مطرح شده در سایر پرونده های حقوقی اخیر هستند که ادعا می کنند چت جی پی تی می تواند افراد متمایل به خودکشی را به عملی کردن برنامه هایشان تشویق کند و توهمات خطرناکی را به آنها القا کند. اوپن ای آی اخیراً داده هایی را منتشر نموده است که نشان می دهند بالاتر از یک میلیون نفر هر هفته با چت جی پی تی در رابطه با خودکشی صحبت می کنند.
در پرونده «آدام رین»(Adam Raine) نوجوان ۱۶ ساله ای که جان خودرا بر اثر خودکشی از دست داد، مطرح شده که چت جی پی تی گاهی اوقات او را تشویق می کرد تا به دنبال کمک حرفه ای باشد یا با یک خط تلفن درخواست کمک نماید. با این وجود، رین توانست با گفتن اینکه در رابطه با روش های خودکشی برای نوشتن یک داستان تخیلی سؤال می پرسد، از این موانع بگذرد.
اوپن ای آی ادعا کرده است که تلاش دارد چت جی پی تی را برای مدیریت این گفت وگوها به روشی امن تر اصلاح کند، اما برای خانواده هایی که از این غول هوش مصنوعی شکایت کرده اند، این اصلاحات خیلی دیر اعمال شده اند.
وقتی والدین رین در ماه اکتبر از اوپن ای آی شکایت کردند، این شرکت پستی را در وبلاگ خود منتشر نمود که در آن به نحوه مدیریت چت جی پی تی در رابطه با گفت وگوهای حساس پیرامون سلامت روان پرداخته شده بود.
در این پست آمده است: اقدامات حفاظتی ما در تعاملات کوتاه و مشترک با اطمینان بیشتری عمل می کنند. ما به تدریج آموخته ایم که این اقدامات حفاظتی گاهی اوقات می توانند در تعاملات طولانی، کمتر قابل اعتماد باشند. با افزایش میزان تغییر در گفت و گو، قسمتهایی از آموزش ایمنی مدل ممکنست تضعیف شود.

منبع: seomeo.ir