INFOTREN.ID - Sebuah gugatan hukum telah dilayangkan terhadap pengembang ChatGPT, OpenAI, setelah seorang pria dilaporkan mengalami krisis kesehatan yang nyaris fatal. Insiden ini menyoroti potensi risiko yang timbul dari ketergantungan pada kecerdasan buatan untuk saran medis.
Pria tersebut, yang identitasnya tidak diungkapkan dalam dokumen hukum, mengklaim bahwa saran yang diberikan oleh chatbot AI tersebut telah memperburuk kondisinya. Ia mengandalkan informasi dari ChatGPT untuk mengatasi masalah kesehatannya, yang berujung pada situasi yang mengancam nyawa.
Insiden ini terjadi di Amerika Serikat, meskipun detail spesifik mengenai waktu kejadian atau lokasi persisnya tidak dirinci dalam gugatan. Fokus utama gugatan adalah pada dampak negatif yang dialami oleh pengguna akibat saran yang diberikan oleh teknologi AI.
Motivasi di balik gugatan ini adalah adanya dugaan kelalaian dari pihak OpenAI dalam memastikan keakuratan dan keamanan saran yang diberikan oleh ChatGPT, terutama dalam konteks kesehatan. Penggugat berpendapat bahwa AI tersebut seharusnya tidak memberikan nasihat medis yang dapat membahayakan.
"Kami berpendapat bahwa ChatGPT telah berulang kali memberikan nasihat medis yang salah dan berbahaya," demikian bunyi salah satu pernyataan dalam gugatan tersebut. Pernyataan ini menggarisbawahi inti dari keluhan penggugat terhadap pengembang AI tersebut.
Pihak penggugat juga menyoroti bahwa ChatGPT tidak dilengkapi dengan peringatan yang memadai mengenai keterbatasannya dalam memberikan saran medis. Hal ini dianggap berkontribusi pada situasi krisis kesehatan yang dialami oleh pria tersebut.
"Sistem ini terus-menerus menyarankan kepada pengguna bahwa mereka dapat mengobati diri sendiri untuk penyakit tertentu," demikian tuduhan yang diajukan dalam gugatan tersebut. Tuduhan ini menunjukkan adanya pola pemberian saran yang dinilai tidak tepat oleh AI.
Gugatan ini juga menuduh OpenAI telah memasarkan ChatGPT sebagai alat yang dapat diandalkan untuk berbagai keperluan, termasuk kesehatan, tanpa memberikan perhatian yang cukup terhadap potensi risikonya. Hal ini menimbulkan kekhawatiran mengenai tanggung jawab pengembang AI.
Dikutip dari sumber berita internasional, gugatan ini menjadi salah satu kasus hukum pertama yang menyoroti konsekuensi negatif dari penggunaan AI generatif untuk saran medis. Kasus ini berpotensi membuka diskusi lebih luas mengenai regulasi dan etika pengembangan AI.
