Williams Jewelry Blog

Organisasi Kesehatan Dunia (WHO) mengarungi dunia kecerdasan buatan (AI) untuk memberikan informasi kesehatan dasar melalui avatar mirip manusia. Tetapi sementara bot merespons dengan simpatik ekspresi wajah pengguna, bot tidak selalu tahu apa yang dibicarakannya.

SARAH, kependekan dari Smart AI Resource Assistant for Health, adalah pekerja kesehatan virtual yang tersedia untuk berbicara 24/7 dalam delapan bahasa berbeda untuk menjelaskan topik-topik seperti kesehatan mental, penggunaan tembakau, dan makan sehat. Ini adalah bagian dari kampanye WHO untuk menemukan teknologi yang dapat mendidik orang dan mengisi kesenjangan staf dengan dunia yang menghadapi kekurangan tenaga kesehatan.

WHO memperingatkan di situs webnya bahwa prototipe awal ini, yang diperkenalkan pada 2 April, memberikan tanggapan yang “mungkin tidak selalu akurat”. Beberapa pelatihan AI Sarah bertahun-tahun di belakang data terbaru. Dan bot kadang-kadang memberikan jawaban biarre, yang dikenal sebagai halusinasi dalam model AI, yang dapat menyebarkan informasi yang salah tentang kesehatan masyarakat.

SARAH tidak memiliki fitur diagnostik seperti WebMD atau Google. Bahkan, bot diprogram untuk tidak berbicara tentang apa pun di luar lingkup WHO, termasuk pertanyaan tentang obat-obatan tertentu. Jadi SARAH sering mengirim orang ke situs web WHO atau mengatakan bahwa pengguna harus “berkonsultasi dengan penyedia layanan kesehatan Anda”.

“Ini tidak memiliki kedalaman,” kata Ramin Javan, seorang ahli radiologi dan peneliti di George Washington University. “Tapi saya pikir itu karena mereka tidak ingin melampaui batas mereka dan ini hanya langkah pertama.”

WHO mengatakan SARAH dimaksudkan untuk bekerja dalam kemitraan dengan para peneliti dan pemerintah untuk menyediakan statistik kesehatan masyarakat yang akurat dan menyarankan langkah-langkah dasar untuk hidup sehat. Agensi meminta saran tentang cara meningkatkan bot dan menggunakannya dalam situasi kesehatan darurat. Tapi itu menekankan asisten AI-nya masih dalam proses.

“Teknologi ini tidak pada titik di mana mereka adalah pengganti untuk berinteraksi dengan seorang profesional atau mendapatkan saran medis dari dokter atau penyedia layanan kesehatan terlatih yang sebenarnya,” kata Alain Labrique, direktur kesehatan dan inovasi digital di WHO.

SARAH dilatih tentang ChatGPT 3.5 OpenAI, yang menggunakan data hingga September 2021, sehingga bot tidak memiliki informasi terkini tentang saran medis atau acara berita. Ketika ditanya apakah Badan Pengawas Obat & Makanan AS telah menyetujui obat Alheimer Lecanemab, misalnya, SARAH mengatakan obat tersebut masih dalam uji klinis padahal sebenarnya disetujui untuk pengobatan penyakit dini pada Januari 2023.

Bahkan data WHO sendiri dapat membuat SARAH tersandung. Ketika ditanya apakah kematian akibat hepatitis meningkat, tidak dapat segera memberikan rincian dari laporan WHO baru-baru ini sampai diminta untuk kedua kalinya memeriksa situs web badan tersebut untuk statistik terbaru. Agensi mengatakan ini karena pelatihan bot di ChatGPT 3.5.

Dan terkadang bot AI kosong. Javan bertanya kepada SARAH di mana seseorang bisa mendapatkan mammogram di Washington, DC, dan itu tidak bisa memberikan tanggapan.

Semua ini tidak biasa di masa-masa awal pengembangan AI ini. Dalam sebuah penelitian tahun lalu yang melihat bagaimana ChatGPT menanggapi 284 pertanyaan medis, para peneliti di Vanderbilt University Medical Centre menemukan bahwa meskipun memberikan jawaban yang benar sebagian besar waktu, ada beberapa contoh di mana chatbot “secara spektakuler dan mengejutkan salah”.

Untuk dapat meniru empati untuk sesi pertanyaan, SARAH mengakses kamera komputer untuk menyimpan ekspresi wajah pengguna selama 30 detik, kemudian menghapus rekaman, kata direktur komunikasi WHO Jaimie Guerra. Setiap kunjungan bersifat anonim, tetapi pengguna dapat memilih untuk berbagi pertanyaan mereka dengan WHO dalam survei untuk meningkatkan pengalaman, meskipun Guerra mengatakan setiap data yang dikumpulkan secara acak dan tidak terikat pada alamat IP atau orang untuk melindungi pengguna.

Namun, menggunakan data sumber terbuka seperti GPT memiliki bahaya tersendiri karena sering menjadi sasaran penjahat dunia maya, Jingquan Li, seorang peneliti kesehatan masyarakat dan TI di Universitas Hofstra, mengatakan. Beberapa orang yang mengakses SARAH melalui Wi-fi rentan terhadap serangan malware atau peretasan kamera video. Guerra mengatakan serangan yang mencoba mengakses data seharusnya tidak menjadi masalah karena sesi anonim.

Mitra pemerintah dan peneliti juga tidak memiliki akses reguler ke data, termasuk pertanyaan yang mungkin membantu melacak pola kesehatan, kecuali mereka meminta data survei sukarela. Guerra mengatakan ini berarti SARAH tidak akan menjadi alat yang paling akurat untuk memprediksi wabah flu berikutnya, misalnya.

SARAH adalah kelanjutan dari proyek pekerja kesehatan virtual WHO 2021 yang disebut Florence yang memberikan informasi dasar tentang Covid-19 dan tembakau, dan Soul Machines yang berbasis di New ealand membangun avatar untuk kedua proyek tersebut. Soul Machines tidak dapat mengakses data SARAH, tetapi kepala eksekutif Greg Cross mengatakan dalam sebuah pernyataan bahwa perusahaan menggunakan data GPT untuk meningkatkan hasil dan pengalaman. Awal tahun ini, WHO merilis panduan etika kepada mitra pemerintahnya untuk model AI terkait kesehatan, termasuk mempromosikan transparansi data dan melindungi keselamatan.

Sementara Florence tampak seperti wanita muda non-kulit putih, Sarah tampak putih. Mengubah tampilan dan memperbarui avatar tidak keluar dari pertanyaan, kata Labrique, dan pengguna mungkin dapat memilih preferensi avatar di versi mendatang.

Adapun jenis kelamin SARAH, ketika ditanya dikatakan: “Saya seorang promotor kesehatan digital chatbot, jadi saya tidak memiliki jenis kelamin atau menggunakan kata ganti pribadi. Tujuan saya adalah untuk membantu Anda dalam menjalani gaya hidup sehat. Apakah Anda memiliki pertanyaan tentang berhenti merokok, mengurangi konsumsi alkohol, atau meningkatkan kesejahteraan Anda secara keseluruhan?”