Setelah memimpin perusahaan Grup Konsultasi BostonLaporan tahun 2023 menemukan konsultan TI mereka lebih produktif menggunakan alat GPT-4 Open AI, perusahaan tersebut menerima reaksi keras bahwa seseorang sebaiknya menggunakan ChatGPT secara gratis alih-alih mempertahankan layanannya selama jutaan dolar.
Inilah alasan mereka: Konsultan hanya akan mendapatkan jawaban atau saran dari ChatGPT, jadi mereka harus menghindari pihak ketiga dan langsung menuju ChatGPT.
Juga: Menguasai AI tanpa keterampilan teknologi? Mengapa sistem yang kompleks membutuhkan pembelajaran yang beragam
Ada pelajaran berharga bagi siapa pun yang merekrut atau berusaha direkrut untuk pekerjaan yang intensif AI, baik itu pengembang, konsultan, atau pengguna bisnis. Pesan dari kritik ini adalah bahwa siapa pun, bahkan dengan keterampilan terbatas atau tidak memadai, kini dapat menggunakan AI untuk maju atau tampak menguasai berbagai hal. Karena itu, lapangan permainan telah diratakan. Dibutuhkan orang-orang yang dapat memberikan perspektif dan pemikiran kritis terhadap informasi dan hasil yang disediakan AI.
Bahkan para ilmuwan, teknolog, dan ahli di bidangnya yang terampil pun bisa terjebak dalam ketergantungan yang terlalu besar pada AI dalam menghasilkan hasil kerja mereka — dibandingkan dengan keahlian mereka sendiri.
“Solusi AI juga dapat mengeksploitasi keterbatasan kognitif kita, membuat kita rentan terhadap ilusi pemahaman di mana kita percaya bahwa kita memahami lebih banyak tentang dunia daripada yang sebenarnya kita pahami,” menurut penelitian tentang topik tersebut diterbitkan di alam.
Bahkan para ilmuwan yang terlatih untuk meninjau informasi secara kritis kini terpikat oleh wawasan yang dihasilkan mesin, demikian peringatan peneliti Lisa Messer dari Universitas Yale dan MJ Crockett dari Universitas Princeton.
“Ilusi semacam itu mengaburkan kemampuan komunitas ilmiah untuk melihat terbentuknya monokultur ilmiah, di mana beberapa jenis metode, pertanyaan, dan sudut pandang mendominasi pendekatan alternatif, sehingga membuat sains menjadi kurang inovatif dan lebih rentan terhadap kesalahan,” kata penelitian mereka.
Messer dan Crockett menyatakan bahwa selain kekhawatiran mengenai etika AI, bias, dan perpindahan pekerjaan, risiko ketergantungan yang berlebihan pada AI sebagai sumber keahlian baru mulai diketahui.
Dalam lingkungan bisnis arus utama, terdapat konsekuensi dari ketergantungan pengguna yang berlebihan pada AI, hilangnya produktivitas, dan kepercayaan yang salah tempat. Misalnya, pengguna “dapat mengubah, mengubah, dan mengalihkan tindakan mereka agar selaras dengan rekomendasi AI,” kata Samir Passi dan Mihaela Vorvoreanu dari Microsoft dalam sebuah pernyataan. ringkasan penelitian tentang topik tersebut. Selain itu, pengguna akan “mengalami kesulitan untuk mengevaluasi kinerja AI dan memahami bagaimana AI memengaruhi keputusan mereka.”
Itulah pemikirannya Kyall Maikepala bagian inovasi di Esquire Bank, yang memandang AI sebagai alat penting untuk keterlibatan pelanggan, sekaligus memperingatkan agar tidak menggunakannya secara berlebihan sebagai pengganti pengalaman manusia dan pemikiran kritis. Esquire Bank menyediakan pembiayaan khusus untuk firma hukum dan menginginkan orang-orang yang memahami bisnis dan apa yang dapat dilakukan AI untuk memajukan bisnis. Saya baru-baru ini bertemu dengan Mai di konferensi Salesforce di New York, yang berbagi pengalaman dan perspektifnya tentang AI.
Mai, yang mulai dari pembuat kode hingga CIO multi-segi, tidak berpendapat bahwa AI mungkin merupakan salah satu alat peningkat produktivitas yang paling berharga. Namun ia juga khawatir bahwa terlalu mengandalkan AI generatif – baik untuk konten atau kode – akan mengurangi kualitas dan ketajaman pemikiran masyarakat.
Selain itu: Selain pemrograman: AI melahirkan generasi baru peran pekerjaan
“Kami menyadari bahwa memiliki otak dan hasil yang fantastis belum tentu sebaik seseorang yang mau berpikir kritis dan memberikan perspektif mereka sendiri tentang apa yang AI dan AI generatif berikan sebagai balasannya dalam bentuk rekomendasi,” katanya. “Kami ingin orang-orang yang memiliki kesadaran emosional dan diri untuk berkata, ‘hmm, ini terasa kurang tepat, saya cukup berani untuk berbicara dengan seseorang, untuk memastikan ada manusia yang terlibat.'”
Esquire Bank menggunakan alat Salesforce untuk merangkul kedua sisi AI – generatif dan prediktif. AI prediktif memberikan para pengambil keputusan bank wawasan tentang “pengacara mana yang mengunjungi situs mereka, dan membantu mempersonalisasi layanan berdasarkan kunjungan ini,” kata Mai, yang peran CIO-nya mencakup keterlibatan pelanggan dan sistem TI.
Sebagai bank yang sepenuhnya virtual, Esquire menggunakan banyak sistem AI di seluruh tim pemasaran, menggabungkan konten generatif yang dikirimkan oleh AI dengan algoritme AI prediktif back-end.
“Pengalaman yang didapatkan setiap orang berbeda-beda,” kata Mai. “Jadi, kami menggunakan AI untuk memprediksi konten apa yang akan diberikan kepada mereka selanjutnya. Mereka mengandalkan semua analitik di balik dan dalam sistem mengenai apa yang dapat kami lakukan dengan prospek tertentu.”
Selain itu: AI Generatif adalah teknologi yang paling mendapat tekanan untuk dieksploitasi oleh TI
Dalam kerja samanya dengan AI, Mai menemukan hal menarik dalam sifat manusia: Orang cenderung mengabaikan penilaian dan ketekunan mereka sendiri saat mereka semakin bergantung pada sistem ini. “Sebagai contoh, kami menemukan bahwa beberapa manusia menjadi malas — mereka meminta sesuatu, lalu memutuskan, ‘ah kedengarannya seperti respons yang sangat bagus,’ dan meneruskannya.”
Ketika Mai merasakan tingkat ketergantungan yang berlebihan pada AI, “Saya akan membawa mereka ke kantor saya, sambil berkata ‘Saya membayar Anda untuk perspektif Anda, bukan perintah dan respons dalam AI yang akan Anda minta saya baca. Hanya mengambil hasil dan memberikannya kembali kepada saya bukanlah yang saya cari, saya mengharapkan pemikiran kritis Anda.”
Namun, ia mendorong anggota tim teknologinya untuk mengalihkan tugas pengembangan yang membosankan ke perangkat dan platform AI generatif, dan meluangkan waktu mereka sendiri untuk bekerja lebih dekat dengan bisnis. “Para pembuat kode menemukan bahwa 60 persen dari waktu yang mereka habiskan untuk menulis adalah untuk kode administratif yang belum tentu inovatif. AI dapat melakukannya untuk mereka, melalui perintah suara.”
Juga: Akankah AI merugikan atau membantu pekerja? Ini rumit
Akibatnya, dia melihat “batas antara pembuat kode klasik dan analis bisnis semakin menyatu, karena pembuat kode tidak menghabiskan banyak waktu untuk melakukan hal-hal yang sebenarnya tidak memberikan nilai tambah. Hal ini juga berarti bahwa analis bisnis bisa menjadi pengembang perangkat lunak.”
“Akan menarik jika saya bisa duduk di depan sebuah platform dan berkata, ‘Saya ingin sebuah sistem yang melakukan ini, ini, ini, dan ini,’ dan sistem itu berhasil melakukannya.”
