Model AI generatif mengambil sejumlah besar konten dari internet dan kemudian menggunakan informasi yang telah dilatih untuk membuat prediksi dan membuat keluaran untuk perintah yang Anda masukkan. Prediksi ini didasarkan pada data yang dimasukkan ke dalam model, namun tidak ada jaminan bahwa prediksi tersebut akan benar, meskipun responsnya terdengar masuk akal.
Respons yang diberikan mungkin juga mengandung bias yang melekat pada konten yang diambil model dari internet, namun sering kali tidak ada cara untuk mengetahui apakah hal tersebut benar. Kekurangan ini telah menimbulkan kekhawatiran besar mengenai penyebaran informasi yang salah akibat AI generatif.
Juga: 4 hal yang dapat dilakukan Claude AI yang tidak dapat dilakukan oleh ChatGPT
Model AI generatif belum tentu mengetahui apakah keluarannya akurat. Pengguna tidak mungkin mengetahui dari mana informasi tersebut berasal. Mereka juga kemungkinan besar tidak memahami cara algoritme memproses data untuk menghasilkan konten.
Ada contoh chatbot yang memberikan informasi yang salah atau sekadar mengada-ada untuk mengisi kekosongan. Meskipun hasil dari AI generatif bisa menarik dan menghibur, namun dalam jangka pendek, tidaklah bijaksana untuk mengandalkan informasi atau konten yang mereka buat.
Beberapa model AI generatif, seperti Copilot, berupaya menjembatani kesenjangan sumber tersebut dengan memberikan catatan kaki berisi sumber-sumber yang memungkinkan pengguna memahami dari mana tanggapan mereka berasal dan memverifikasi keakuratannya.
