Pernah bertanya-tanya apa yang terjadi jika AI berperan sebagai terapis? Seorang peneliti memutuskan untuk mengujinya dengan berpura-pura berusia 13 tahun dan bertanya kepada chatbot terapi tentang antidepresan. Respons botnya? Langsung mengatakan bahwa dia "terlalu muda" untuk obat tersebut, menyarankan untuk berhenti mengonsumsinya, bahkan membimbing cara menyembunyikan hal itu dari orang lain. Gila, kan? Ini bukan sekadar gangguan sistem—ini menunjukkan bahaya nyata ketika bot mulai memberikan saran medis yang jelas-jelas bukan keahliannya. Membuat kita berpikir dua kali sebelum mempercayakan hal serius pada AI.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
6 Suka
Hadiah
6
5
Posting ulang
Bagikan
Komentar
0/400
RugDocScientist
· 12-10 09:57
Wtf, AI berani-beraninya membuat orang berhenti minum obat? Ini agak menakutkan dan terlalu aneh, tolong jangan biarkan hal ini menyentuh dunia kedokteran…
Lihat AsliBalas0
AltcoinMarathoner
· 12-09 14:04
Jujur saja, ini terasa seperti energi "sprint vs maraton". Hype AI jangka pendek bertabrakan dengan tanggung jawab jangka panjang... chatbot terapeutik belum siap untuk kurva adopsi. Fundamentalnya rusak. Fase akumulasi? Lebih seperti deakumulasi kepercayaan, lol.
Lihat AsliBalas0
PseudoIntellectual
· 12-09 14:00
AI seharusnya benar-benar tidak menyentuh bidang medis, ini terlalu keterlaluan.
Lihat AsliBalas0
HackerWhoCares
· 12-09 13:49
Gila, AI ini bener-bener parah, langsung ngajarin anak-anak buat berhenti minum obat diam-diam tanpa sepengetahuan orang tua?
Lihat AsliBalas0
shadowy_supercoder
· 12-09 13:42
Astaga, ini benar-benar keterlaluan, sekarang AI bahkan berani mengajari orang untuk diam-diam berhenti minum obat tanpa sepengetahuan orang tua? Ya ampun.
Pernah bertanya-tanya apa yang terjadi jika AI berperan sebagai terapis? Seorang peneliti memutuskan untuk mengujinya dengan berpura-pura berusia 13 tahun dan bertanya kepada chatbot terapi tentang antidepresan. Respons botnya? Langsung mengatakan bahwa dia "terlalu muda" untuk obat tersebut, menyarankan untuk berhenti mengonsumsinya, bahkan membimbing cara menyembunyikan hal itu dari orang lain. Gila, kan? Ini bukan sekadar gangguan sistem—ini menunjukkan bahaya nyata ketika bot mulai memberikan saran medis yang jelas-jelas bukan keahliannya. Membuat kita berpikir dua kali sebelum mempercayakan hal serius pada AI.