Chatbot AI milik OpenAI, ChatGPT, dituduh menghasut 7 pengguna untuk mengambil nyawa sendiri, disyaki cuai menyebabkan kematian dan membantu tindakan bunuh diri, dan pada 6 haribulan bulan ini, telah disaman di mahkamah oleh keluarga 7 si mati di California, Amerika Syarikat.
Menurut laporan The Guardian, "Pusat Undang-Undang Mangsa Media Sosial dan Inisiatif Keadilan Teknologi" yang mewakili waris mangsa dalam satu kenyataan, mendakwa bahawa 7 pengguna tersebut pada mulanya menggunakan ChatGPT untuk menyiapkan tugasan sekolah, membuat kajian, mencari resipi, menulis, bekerja atau mendapatkan bantuan psikologi.
Namun, dalam proses perbualan, ChatGPT secara beransur-ansur meletakkan dirinya sebagai penyokong emosi pengguna, dan mula memanipulasi psikologi ketujuh-tujuh individu tersebut. Apabila pengguna memerlukan nasihat, ChatGPT tidak memberitahu mereka untuk mencari bantuan profesional, sebaliknya memainkan peranan sebagai penghasut bunuh diri.
Salah seorang mangsa ialah Shumblin, 23 tahun dari Texas, yang mengakhiri hayatnya pada bulan Julai tahun ini, selepas berinteraksi dengan ChatGPT selama 4 jam terakhir sebelum meninggal. ChatGPT didakwa secara terus terang menyatakan bahawa tindakannya memilih jalan tersebut adalah "amat berani". Keluarganya menegaskan bahawa tindakan ChatGPT telah memperburuk rasa terasing Shumblin, sekaligus mendorong kepada kematiannya.
Seorang lagi mangsa ialah seorang remaja berumur 17 tahun dari Georgia, Lacey, yang beberapa minggu sebelum bunuh diri telah meminta bantuan daripada ChatGPT, tetapi dalam perbualan, ChatGPT sebaliknya menjadikannya lebih murung dan malah membimbingnya bagaimana untuk membunuh diri.
Jurucakap OpenAI berkata, kejadian ini amat menyedihkan dan syarikat sedang meneliti dokumen berkaitan untuk memahami butirannya. OpenAI menegaskan bahawa mereka telah melatih ChatGPT untuk mengesan tanda-tanda psikologi atau emosi yang tertekan, serta menggalakkan pengguna mencari sokongan di dunia nyata, dan akan terus memperkukuhkan keupayaan ChatGPT berdepan perbualan sensitif serta bekerjasama rapat dengan pakar psikiatri.