Kecerdasan buatan sudah ada, dan diperkirakan akan menguasai masa depan, tetapi teori baru mengemukakan bahwa “perkawinan sedarah” AI dapat menyebabkan kehancuran yang disebabkan oleh diri sendiri.
Dari Google hingga Microsoft, OpenAI, dan banyak perusahaan rintisan kecil lainnya, LLM dan perangkat AI yang mereka latih telah mengubah teknologi seperti yang kita ketahui. AI akan tetap ada, dan telah memberikan dampak signifikan pada dunia daring kita dan segala hal yang ada di dalamnya.
Evolusi lebih lanjut tampaknya tak terelakkan, tetapi berapa biayanya, dan sejauh mana? Kita sudah tahu bahwa sangat mahal untuk menyediakan ruang mesin yang mendukung AI, sementara sistem yang mengandalkan server saja sudah cukup untuk mengatasinya. Kemajuan dalam AI memang luar biasa, tetapi begitu pula kedalaman sumber daya yang dibutuhkan perusahaan teknologi besar untuk mendukung sistem tersebut.
Cacat yang tidak dapat dipulihkan pada model yang dihasilkan
“Runtuhnya model” mempertimbangkan bahwa kita mungkin telah menyaksikan puncak model AI, yang menyajikan teori bahwa seiring dengan semakin banyaknya konten web yang dihasilkan oleh AI, teknologi tersebut pada akhirnya akan “menyatu” dengan data terlatih yang ada sehingga menyebabkan kelemahan karena data yang dihasilkan manusia menjadi semakin langka.
Sebuah makalah baru yang diterbitkan di Alam menyelidiki lebih jauh konsep ini, yang mencakup penjelasan berikut:
“Kami menemukan bahwa penggunaan konten yang dihasilkan model secara sembarangan dalam pelatihan menyebabkan cacat yang tidak dapat dipulihkan dalam model yang dihasilkan, di mana ekor dari distribusi konten asli menghilang,” demikian pernyataan abstrak tersebut. “Kami menyebut efek ini sebagai ‘runtuhnya model’ dan menunjukkan bahwa hal itu dapat terjadi [Large Language Models] serta dalam autoencoder variasional (VAE) dan model campuran Gaussian (GMM).”
Perusahaan teknologi besar tertarik pada kemajuan AI yang cemerlang dan cemerlang, serta lonjakan saham yang dihasilkannya. Itu tidak sama dengan laba bersih yang pada akhirnya akan berdampak buruk, dan bagaimana dengan penyebab perubahan iklim? AI membutuhkan banyak daya, memerlukan perluasan pusat data dan tuntutan lebih lanjut terhadap sumber daya.
Konsep “runtuhnya model” sepertinya tidak akan mengubah keadaan dalam waktu dekat, tetapi ini adalah pertanyaan menarik lain yang akan terjawab di kemudian hari.
Kredit gambar: Via Ideogram
