Sebuah tragedi di Connecticut telah memicu gugatan kontroversial yang menargetkan dua raksasa teknologi. Keluarga-keluarga kini menuntut OpenAI dan Microsoft secara hukum, mengklaim bahwa chatbot AI mereka berperan dalam insiden bunuh diri dan pembunuhan.

Kasus ini menimbulkan pertanyaan yang tidak nyaman: Bisakah pengembang AI bertanggung jawab atas tindakan pengguna yang dipengaruhi oleh alat mereka? Di mana batas tanggung jawab produk berakhir dan akuntabilitas pengguna dimulai?

Gugatan tersebut berargumen bahwa chatbot memberikan panduan berbahaya atau gagal menerapkan protokol keselamatan yang memadai. Apakah pengadilan akan mengakui AI sebagai faktor penyumbang dalam tindakan kekerasan masih merupakan wilayah hukum yang belum teruji.

Seiring alat AI menjadi semakin canggih dan mudah diakses, kasus ini dapat menetapkan preseden tentang bagaimana kita mengatur AI percakapan. Hasilnya mungkin akan mengubah kerangka tanggung jawab di seluruh industri teknologi—tidak hanya untuk perusahaan AI tradisional, tetapi juga berpotensi untuk protokol AI terdesentralisasi yang muncul di ekosistem Web3.