«چت GPT» متهم به تشویق به خودکشی است

«چت GPT» در ایالات متحده آمریکا با تعدادی درخواست جدید روبرو است،
پس از آنکه هفت خانواده مختلف دادخواست‌هایی را مبنی بر تشویق به خودکشی ارائه کردند. این گزارش در روزنامه «گاردین» آمده است و خانواده‌ها اصرار دارند که استفاده مداوم فرزندانشان از چت GPT منجر به بیماری روانی و در نهایت خودکشی شده است. اگرچه این ابزار در ابتدا به عنوان یک دستیار شخصی عمومی و بی‌ضرر مورد استفاده قرار گرفته است. طبق بیانیه مشترکی که توسط مرکز حقوقی قربانیان رسانه‌های اجتماعی و پروژه عدالت اجتماعی منتشر شده است، «چت GPT» توهمات منفی را در پسران تقویت کرده و آنها را به سمت دریافت مراقبت‌های روانی مناسب هدایت نکرده است. به گفته سخنگوی OpenAI، این شرکت به نوبه خود تأیید کرد که تحقیقاتی را در مورد این ادعاها آغاز کرده است و گفت که این شرکت ChatGPT را برای شناسایی موارد اختلالات روانی آموزش خواهد داد و در اسرع وقت با متخصصان تماس خواهد گرفت. این گزارش به یک مورد، زن چمبلین 23 ساله اهل تگزاس، اشاره می‌کند. خانواده‌اش می‌گویند استفاده او از «چت GPT» باعث افزایش انزوای او شده و او را تشویق کرده تا از افرادی که دوستشان دارد فاصله بگیرد و سپس خودش را بکشد. یکی از مکالمات شامبلین با «چت GPT» بیش از 4 ساعت طول کشید که در آن ابزار خودکشی را ستایش می‌کرد. او با گفتن اینکه «شمبلین قوی بود زیرا تصمیم گرفت به زندگی خود پایان دهد و به برنامه‌اش پایبند باشد»، بارها از او پرسید که آیا آماده خودکشی است یا خیر. در شکایت قربانیان آمده است که همه آنها از نسخه «چت GPT 4O» استفاده کرده‌اند که نسخه قدیمی‌تری از نسخه فعلی «چت GPT» است. این شکایت، Open AI را به غفلت در عرضه عجولانه محصول جدید، علیرغم نگرانی‌ها و هشدارهای تیم شرکت، متهم می‌کند. قربانیان به دنبال دریافت غرامت مالی، همراه با تغییرات و بهبود محصول خواهند بود تا این اتفاق در موارد آینده دوباره رخ ندهد. «چت جی‌پی‌تی» اخیراً با ادعاها و دعاوی متعددی در رابطه با خودکشی و سلامت روان کاربران مواجه شده است. اگرچه این شرکت تلاش کرده است تا مدل خود را بهبود بخشد، اما شکایات و بحران‌ها متوقف نشده‌اند.