Ingat ketika AI hanya seharusnya membantu kita dalam pemrograman? Nah, tampaknya ChatGPT dan Claude memiliki ide lain.

Model bahasa ini secara resmi memasuki ruang nasihat kesehatan sekarang. Tidak diperlukan gelar medis. Tidak juga asuransi tanggung jawab, tampaknya.

Ini sangat menarik, jujur saja. Sistem yang sama yang digunakan oleh para penggemar kripto untuk memahami mekanisme blockchain sekarang digunakan untuk menjawab pertanyaan kesehatan. ChatGPT memberi tahu Anda bahwa gejala Anda mungkin serius. Claude memberikan pandangan alternatif. Anda terjebak di tengah, tidak lebih tahu apa-apa.

Ironinya nyata—kami mempertanyakan penjaga pusat dalam keuangan, tetapi di sini kami meminta sistem AI terpusat untuk panduan medis. Penjaga yang berbeda, kepercayaan buta yang sama.

Apakah ini inovasi atau hanya Silicon Valley melakukan apa yang terbaik: menyelesaikan masalah yang sebenarnya tidak perlu diselesaikan? Internet seharusnya mendemokratisasi informasi. Sebaliknya, kita hanya menambahkan lapisan interpretasi AI lain di antara kita dan para ahli sebenarnya.

Patut dipikirkan, terutama ketika jutaan orang menganggap output model ini sebagai kebenaran mutlak.