Beena Ammanath adalah kepala praktik Etika Kepercayaan Teknologi Deloitte. Deloitte
Pada tahun 1845, William Welch Deloitte — yang dipekerjakan untuk mengaudit Great Western Railway — mendirikan perusahaan yang masih menggunakan namanya. Deloitte Touche Tohmatsu Limited telah berkembang dari toko tunggal menjadi kantor akuntan “Empat Besar” yang mempekerjakan ratusan ribu orang saat ini. Secara umum, Deloitte sekarang kantor akuntan terbesar di dunia.
Sebagai kepala Praktik Etika Kepercayaan Teknologi Deloitte, Beena Ammanath setiap hari menghadapi tantangan yang tidak dapat dibayangkan oleh William Welch Deloitte 178 tahun yang lalu. Selain memandu perspektif Deloitte mengenai etika AI baik secara internal maupun eksternal, Ammanath mengoperasionalkan etika AI dari perspektif perusahaan dan memimpin Global Deloitte AI Institute. Timnya baru saja menyelesaikan yang kedua Studi Keadaan Etika dan Kepercayaan pada Teknologiyang membahas etika dalam teknologi di seluruh perusahaan.
Juga: Apakah perusahaan memiliki pedoman etika untuk penggunaan AI? 56% profesional tidak yakin, menurut survei
Salah satu tren besar yang telah kami ikuti selama beberapa waktu — dan tren yang semakin cepat di era AI generatif ini — adalah peran kepala etika yang terus berkembang. Organisasi yang mengadopsi teknologi baru menghadapi tantangan baru yang timbul dari kompleksitas perangkat lunak, laju perubahan, dan kebutuhan untuk menghormati keragaman karyawan, pelanggan, dan konstituen.
Namun, seperti yang dijelaskan Ammanath di bawah ini, tanggung jawab atas kinerja etis kini melibatkan seluruh jajaran eksekutif, termasuk dewan direksi. Meskipun pertumbuhan merek penting, kebutuhan untuk melindungi reputasi merek dan kepercayaan pasar mendorong perhatian tambahan yang diberikan pada etika di tingkat atas bisnis.
Saya berkesempatan untuk mewawancarai Ammanath, dan percakapan kami yang menarik dan luas menyentuh upaya perusahaan untuk mendefinisikan AI yang etis dalam konteks pengembangan tenaga kerja serta bagaimana hasil penelitian ini telah memberikan pemahaman tentang masalah dan praktik etika AI. perusahaan di seluruh dunia.
Mari kita gali lebih dalam.
Juga: Perhatikan kesenjangan kepercayaan: Masalah data mendorong kehati-hatian pelanggan terhadap AI generatif
ZDNET: Bagaimana Deloitte mendefinisikan AI etis dalam konteks pengembangan tenaga kerja?
Beena Ammanath: Dengan teknologi canggih seperti AI, terdapat potensi dampak positif yang sangat besar — namun pada saat yang sama juga terdapat risiko hasil yang tidak diinginkan.
Organisasi harus yakin bahwa alat yang mereka gunakan berperilaku etis, dapat dipercaya untuk melindungi privasi, keselamatan, dan perlakuan adil terhadap penggunanya, serta selaras dengan tujuan dan nilai-nilai mereka. Di sinilah pedoman etika AI berperan, membantu organisasi memanfaatkan teknologi ini secara bertanggung jawab sambil memanfaatkan manfaatnya.
Juga: Apakah bisnis Anda memerlukan chief AI officer?
Memperkenalkan pedoman ini kepada tenaga kerja merupakan langkah penting ketika mengadopsi AI ke dalam organisasi. Kami melihat dari penelitian kami bahwa para pemimpin menggunakan berbagai strategi untuk mengedukasi tenaga kerja mereka mengenai etika AI dan mempersiapkan mereka untuk menggunakan alat AI, mulai dari mendidik pekerja tentang praktik terbaik yang dapat dipercaya hingga meningkatkan keterampilan dan merekrut pekerja untuk peran etika AI tertentu.
ZDNET: Strategi apa yang Anda rekomendasikan untuk memasukkan pertimbangan etis ke dalam pengembangan AI?
BA: Pendekatan untuk mengembangkan kerangka etika untuk pengembangan dan penerapan AI akan bersifat unik untuk setiap organisasi. Mereka perlu menentukan kasus penggunaan AI serta batasan, kebijakan, dan praktik khusus yang diperlukan untuk memastikan bahwa mereka mencapai hasil yang diinginkan sekaligus menjaga kepercayaan dan privasi.
Menetapkan pedoman etika ini – dan memahami risiko beroperasi tanpa pedoman etika ini – bisa menjadi hal yang sangat rumit. Prosesnya memerlukan pengetahuan dan keahlian di berbagai disiplin ilmu. Dalam penelitian kamikami melihat tren perekrutan untuk posisi khusus, seperti peneliti etika AI (53%), spesialis kepatuhan (53%), dan analis kebijakan teknologi (51%).
Juga: Etika AI generatif: Bagaimana kita dapat memanfaatkan teknologi canggih ini
Pada tingkat yang lebih luas, menerbitkan kebijakan dan pedoman etika yang jelas, serta mengadakan lokakarya dan pelatihan mengenai etika AI, dalam survei kami dinilai sebagai cara yang paling efektif untuk mengomunikasikan etika AI kepada tenaga kerja, dan dengan demikian memastikan bahwa proyek AI dilakukan dengan mempertimbangkan etika AI. etika dalam pikiran.
ZDNET: Peran apa yang dimainkan kepemimpinan dalam menumbuhkan budaya AI yang etis?
BA: Kepemimpinan memainkan peran penting dalam menggarisbawahi pentingnya etika AI, menentukan sumber daya dan pengalaman yang diperlukan untuk menetapkan kebijakan etika dalam suatu organisasi, dan memastikan bahwa prinsip-prinsip ini diterapkan.
Inilah salah satu alasan kami mengeksplorasi topik etika AI dari perspektif C-suite. Kami melihat para pemimpin mengambil pendekatan proaktif dalam mempersiapkan tenaga kerja mereka untuk teknologi ini.
Juga: Apakah perusahaan memiliki pedoman etika untuk penggunaan AI? 56% profesional tidak yakin
Chief Ethics Officer dan Trust Officer telah menjadi andalan bagi organisasi yang ingin mengadopsi teknologi baru secara etis, namun hal ini bukan tanggung jawab mereka sendiri. Dialog seringkali melibatkan seluruh tingkat eksekutif termasuk dewan direksi. Studi kami juga mengungkapkan bahwa para eksekutif melihat hubungan yang kuat antara etika AI dan elemen bisnis penting seperti pertumbuhan pendapatan, reputasi merek, dan kepercayaan pasar.
Penting juga untuk dicatat bahwa upaya untuk memperkenalkan etika dan kebijakan AI terjadi di seluruh organisasi, di semua tingkatan – mulai dari C-suite dan ruang rapat hingga spesialis dan karyawan individu.
ZDNET: Bagaimana Anda memastikan bahwa prinsip-prinsip etika AI diterapkan secara konsisten di seluruh tim global?
BA: Ini adalah contoh mengapa menetapkan pedoman etika yang jelas dan konsisten sangat penting – dan mungkin menjadi alasan mengapa pedoman ini dinilai sebagai cara paling efektif untuk mengkomunikasikan etika AI kepada karyawan, menurut survei kami.
Kami juga melihat perbincangan seputar etika AI terjadi di antara para pemimpin di tingkat dewan, yang akan memastikan kebijakan dan tindakan yang konsisten di seluruh organisasi. Menurut penelitian tersebut, lebih dari separuh responden mengatakan dewan direksi (52%) dan kepala pejabat etika (52%) selalu terlibat dalam pembuatan kebijakan dan pedoman untuk penggunaan AI yang etis.
ZDNET: Bagaimana Anda melihat masa depan dunia kerja berubah seiring dengan penerapan AI yang etis?
BA: Meningkatnya penekanan pada etika AI merupakan pertanda baik bahwa integrasi AI dalam dunia kerja bergerak ke arah positif – penekanan luas pada nilai membangun dan menegakkan prinsip-prinsip etika berarti tenaga kerja akan mampu memanfaatkan kemampuan AI secara lebih efektif dan efisien.
Selain itu: Semua orang menginginkan AI yang bertanggung jawab, namun hanya sedikit orang yang melakukan sesuatu untuk mengatasinya
Bagi pekerja, hal ini juga berarti banyak yang akan terdorong dan diberdayakan untuk meningkatkan pengetahuan mereka tentang teknologi. Survei kami menunjukkan sekitar 45% organisasi secara aktif melatih dan meningkatkan keterampilan tenaga kerja mereka dalam bidang AI.
ZDNET: Apa tantangan unik dalam meningkatkan keterampilan karyawan untuk AI yang etis?
BA: Peningkatan keterampilan adalah bagian penting dalam penerapan AI, namun hal ini dapat terlihat sangat berbeda bagi pekerja dengan keterampilan dan pengalaman berbeda. Hal ini melibatkan pemahaman kemampuan dan keterampilan karyawan saat ini, dan melihat bagaimana keterampilan tersebut dapat ditingkatkan atau dikembangkan dengan AI.
Memahami bagaimana kemampuan unik pekerja berinteraksi dan dapat diberdayakan oleh teknologi, terutama bagi organisasi yang besar dan beragam, dapat menjadi sebuah tantangan.
ZDNET: Langkah-langkah apa yang dapat diambil untuk meningkatkan transparansi dalam proses pengambilan keputusan AI?
BA: Komunikasi adalah kuncinya di sini – meningkatnya fokus pada etika AI telah memicu pembicaraan di tingkat kepemimpinan tentang tidak hanya penetapan prinsip-prinsip etika, namun juga komunikasi yang efektif. Meskipun sebagian besar pengambilan keputusan dilakukan di tingkat eksekutif atau dewan direksi, penting bagi pengambilan keputusan ini untuk melibatkan spesialis dari berbagai disiplin ilmu, dan dikomunikasikan secara efektif ke seluruh organisasi.
ZDNET: Langkah apa yang harus diambil perusahaan untuk memastikan aplikasi AI mereka bertanggung jawab dan dapat dipercaya?
BA: Saat mengembangkan atau memulai aplikasi AI baru, penting untuk memiliki kerangka kerja untuk mengarahkan desain dan pengoperasian aplikasi tersebut secara bertanggung jawab. Survei kami menunjukkan bahwa banyak eksekutif menyadari perlunya pedoman ini, dan mereka memprioritaskan pembuatan dan komunikasi kebijakan etika AI sebelum mengaktifkan proyek percontohan AI yang baru.
Juga: 4 cara AI berkontribusi terhadap bias di tempat kerja
ZDNET: Bagaimana Deloitte menilai implikasi etis dari teknologi AI baru? Bagaimana Deloitte mengatasi permasalahan etika seputar AI dan privasi? Pedoman etika apa yang diikuti Deloitte saat mengembangkan solusi AI?
BA: milik Deloitte Kerangka kerja AI yang dapat dipercaya menguraikan tujuh dimensi yang digunakan untuk mengevaluasi perilaku AI:
- Transparansi dan penjelasan
- Keadilan dan ketidakberpihakan
- Kekokohan dan keandalan
- Keselamatan dan keamanan
- Tanggung jawab
- Akuntabilitas
- Hormati privasi
Praktik Technology Trust Ethics Deloitte juga menghasilkan kerangka kerja untuk memandu pengambilan keputusan yang bertanggung jawab dalam desain, pengoperasian, dan tata kelola semua teknologi yang sedang berkembang.
Selain mengembangkan kerangka panduan, tim Technology Trust Ethics Deloitte merilis pelatihan dasar pertama pada tahun 2023 untuk membantu karyawan mengembangkan pola pikir teknologi yang etis, mengenali tindakan praktis yang dapat dilakukan siapa pun untuk mengenali dan memitigasi risiko etika dengan teknologi, dan memahami meningkatnya kebutuhan untuk mengembangkan dan menangani teknologi secara bertanggung jawab dan dapat dipercaya di Deloitte.
Selain itu: AI meningkatkan kolaborasi antara pengembang dan pengguna bisnis
ZDNET: Bagaimana etika AI dapat diintegrasikan ke dalam nilai-nilai inti perusahaan? Apa pentingnya AI etis dalam menjaga kepercayaan konsumen?
BA: Penggunaan alat AI di seluruh organisasi sudah tersebar luas – mayoritas (84%) eksekutif tingkat C yang disurvei melaporkan bahwa organisasi mereka saat ini menggunakan AI. Sebanyak 12% eksekutif lainnya mengindikasikan bahwa mereka akan mengeksplorasi kasus penggunaan AI pada tahun depan.
Artinya, organisasi harus fokus untuk memastikan bahwa penggunaan alat-alat ini – dan teknologi apa pun yang muncul – selaras dengan nilai-nilai inti, etika, dan harapan organisasi.
Memiliki pemahaman yang jelas tentang tujuan penggunaan teknologi bagi organisasi mereka dan hasil yang diinginkan adalah hal yang sangat penting dalam menetapkan kebijakan yang diperlukan untuk memastikan hasil tersebut.
Ada hubungan yang kuat antara kepercayaan merek dan keandalan serta kebijakan etika seputar AI. Dalam survei kami, 47% eksekutif percaya bahwa pedoman etika untuk teknologi baru seperti AI generatif sangat penting untuk reputasi merek dan kepercayaan pasar.
Selain itu: AI mentransformasi organisasi di mana pun. Bagaimana 6 perusahaan ini memimpin
ZDNET: Bagaimana organisasi dapat memastikan sistem AI mereka inklusif dan adil?
BA: Menciptakan dan memanfaatkan alat AI yang adil dan inklusif merupakan proses berkelanjutan yang harus berkembang seiring dengan teknologi. Hal ini berarti melibatkan peneliti dan spesialis yang dapat mengembangkan proses dan sistem untuk mengatasi masalah seperti bias.
Hal ini juga memerlukan keterlibatan beragam perspektif dalam pengembangan AI, untuk memastikan teknologi tersebut dirancang dan dioperasikan secara inklusif. Inklusivitas dan kesetaraan harus dimasukkan ke dalam kerangka kerja organisasi untuk etika AI sebagai aspek utama yang harus diatasi ketika mengembangkan atau memanfaatkan AI.
Pikiran terakhir
Saya dan editor ZDNET ingin mengucapkan terima kasih yang sebesar-besarnya kepada Beena Ammanath yang telah meluangkan waktu untuk terlibat dalam wawancara mendalam ini. Ada banyak bahan untuk dipikirkan di sini. Terima kasih, Beena!
Selain itu: Permintaan akan sistem kerja hybrid semakin meningkat, menurut laporan terbaru Deloitte
Bagaimana menurutmu? Apakah rekomendasinya memberi Anda ide tentang cara mengatasi masalah bias dan keberagaman di organisasi Anda? Beri tahu kami di komentar di bawah.
Anda dapat mengikuti pembaruan proyek saya sehari-hari di media sosial. Pastikan untuk berlangganan buletin pembaruan mingguan saya di Substackdan ikuti saya di Twitter di @DavidGewirtzdi Facebook di Facebook.com/DavidGewirtzdi Instagram di Instagram.com/DavidGewirtzdan di YouTube di YouTube.com/DavidGewirtzTV.
