Mengungkap Misteri Theorem Black Box dalam Kecerdasan Buatan dan Dampaknya bagi Kepercayaan Publik

Jakarta, 06 Desember 2024 – Kecerdasan buatan atau Artificial Intelligence (AI) telah menjadi bagian penting dalam kehidupan modern. Teknologi ini membantu manusia menyelesaikan berbagai tugas, mulai dari mencari rute tercepat melalui aplikasi navigasi, menggunakan asisten virtual untuk menjawab pertanyaan, hingga mendukung dokter dalam membuat diagnosis medis. Dengan kemampuannya yang terus berkembang, AI dianggap sebagai salah satu inovasi terbesar abad ini. Namun, meskipun manfaatnya sangat besar, kehadiran AI tidak lepas dari tantangan, terutama dalam hal transparansi dan kepercayaan publik.

Salah satu masalah utama yang sering muncul adalah kurangnya pemahaman masyarakat terhadap cara kerja AI. Banyak orang bertanya-tanya bagaimana sistem ini bisa menghasilkan keputusan, terutama dalam kasus-kasus penting seperti menentukan kelayakan kredit, memberikan diagnosis kesehatan, atau menyeleksi calon karyawan. Hal ini diperparah dengan adanya konsep Black Box, yaitu istilah yang digunakan untuk menggambarkan proses pengambilan keputusan dalam AI yang tidak terlihat atau sulit dijelaskan. Ketidakjelasan ini memicu kebingungan, bahkan rasa curiga, terhadap teknologi yang sebenarnya dirancang untuk membantu manusia.

Istilah Black Box dalam dunia AI merujuk pada sistem yang bekerja seperti mesin ajaib. Kita memberikan data sebagai input, dan sistem menghasilkan keputusan atau jawaban sebagai output, tetapi proses di baliknya sulit dipahami, bahkan oleh para ahli sekalipun. Meskipun AI mungkin dapat merekomendasikan seseorang untuk mendapatkan pinjaman atau memberikan diagnosis medis yang akurat, cara kerja sistem tersebut tetap menjadi misteri bagi kebanyakan orang.

Ketidakjelasan ini menjadi tantangan serius, terutama ketika AI digunakan untuk mengambil keputusan yang berdampak pada kehidupan banyak orang. Misalnya, dalam seleksi penerima bantuan sosial, AI harus memastikan bahwa prosesnya adil dan bebas bias. Namun, jika data yang digunakan untuk melatih AI tidak lengkap atau cenderung berpihak, sistem bisa menghasilkan keputusan yang diskriminatif.

Tantangan transparansi dalam AI menjadi perhatian utama dalam seminar berjudul

“Menghubungkan Psikologi dan Teknologi: Menguak Rahasia Theorem Black Box dan Deep Learning”. Acara yang diselenggarakan oleh Big Data Center IMERI Fakultas Kedokteran Universitas Indonesia ini menghadirkan pakar dari berbagai disiplin ilmu, mulai dari psikologi hingga teknologi. Seminar ini bertujuan untuk menjelaskan konsep Black Box, membahas dampaknya terhadap kepercayaan publik, dan mencari solusi agar teknologi AI dapat lebih transparan, adil, dan bertanggung jawab.

Seminar yang diselenggarakan oleh Big Data Center IMERI FK UI ini menjadi sebuah wadah yang sangat penting untuk mengeksplorasi tantangan besar yang dihadapi dunia kecerdasan buatan, terutama terkait dengan transparansi dan kepercayaan publik. Dalam acara ini, berbagai pakar dari berbagai disiplin ilmu, mulai dari psikologi hingga teknologi. Berkolaborasi untuk memberikan pemahaman yang lebih mendalam mengenai bagaimana cara kerja AI serta bagaimana kita bisa mengatasi tantangan yang ada. Prasandhya Astagiri Yusuf, S.Si, M.T., Ph.D, selaku Ketua Big Data Center IMERI, membuka seminar ini dengan penekanan pada pentingnya membangun jembatan antara dua bidang yang sering dianggap terpisah: psikologi dan teknologi. Ia menekankan bahwa pengembangan AI yang lebih dapat dipercaya tidak bisa dicapai tanpa memahami bagaimana manusia berinteraksi dengan teknologi tersebut dan bagaimana psikologi manusia dapat membantu menciptakan AI yang lebih ramah pengguna.

Pada sesi pertama, Prof. Dr. Bagus Takwin dari Fakultas Psikologi Universitas Indonesia memberikan wawasan yang sangat berharga mengenai konsep Black Box dalam AI. Menurutnya, masalah utama yang sering dihadapi dalam penggunaan AI adalah ketidakjelasan proses pengambilan keputusan. Sistem deep learning yang ada dalam AI sering kali menghasilkan keputusan yang tidak dapat dijelaskan dengan mudah. Prof. Bagus menjelaskan bagaimana keputusan yang diambil oleh AI sering kali didasarkan pada pola yang ditemukan dalam data, yang membuatnya sulit dipahami oleh manusia. Oleh karena itu, sangat penting untuk mengembangkan pendekatan yang memungkinkan kita untuk lebih memahami cara kerja AI tersebut, agar keputusannya bisa lebih transparan dan bisa diterima oleh masyarakat. Ia juga membahas pentingnya memperhatikan aspek perilaku AI yang menyerupai “kepribadian” dalam interaksi dengan pengguna. Hal ini sangat relevan, karena interaksi yang lebih baik antara manusia dan AI akan menciptakan pengalaman yang lebih positif dan meningkatkan kepercayaan publik terhadap teknologi tersebut.

Pada sesi kedua, Deni Yulian, S.T., M.Eng, seorang praktisi teknologi dari Solusi247, menjelaskan lebih lanjut tentang bagaimana AI bekerja dari perspektif teknis. Deni menekankan bahwa AI bukanlah sekadar algoritma yang memproses data, tetapi juga sistem yang mempengaruhi kehidupan manusia secara langsung. Ia memaparkan berbagai teknik yang digunakan untuk melatih model AI, termasuk pentingnya menghindari bias dalam data yang digunakan untuk pelatihan. Deni mengungkapkan bahwa salah satu tantangan utama dalam pengembangan AI adalah memastikan bahwa model yang dibuat tidak hanya efektif dalam memecahkan masalah, tetapi juga mencerminkan nilai-nilai etika yang diterima secara umum. Misalnya, ketika AI digunakan dalam penentuan keputusan seperti pemberian pinjaman atau seleksi tenaga kerja, AI harus mampu memberikan hasil yang adil tanpa diskriminasi, dan ini hanya bisa tercapai jika data yang digunakan adalah data yang beragam dan bebas dari bias.

Lebih lanjut, Deni juga membahas tentang bagaimana transparansi dalam pengambilan keputusan AI dapat dicapai. Menurutnya, sangat penting untuk membuat proses di balik algoritma AI lebih mudah dipahami oleh manusia. AI yang transparan akan memungkinkan pengguna untuk lebih mempercayai hasil keputusan yang dihasilkan. Ia juga menekankan pentingnya kolaborasi antara ahli psikologi, pengembang teknologi, dan ilmuwan data dalam menciptakan AI yang tidak hanya efisien, tetapi juga aman dan ramah pengguna. Sebagai contoh, dalam pengembangan chatbot untuk layanan pelanggan, AI perlu dilatih untuk tidak hanya memberikan jawaban yang benar, tetapi juga respons yang sesuai dengan konteks dan sensitivitas sosial. Hal ini dapat dicapai dengan memanfaatkan pemahaman psikologi tentang bagaimana manusia berinteraksi dengan teknologi, serta bagaimana emosi dan persepsi dapat memengaruhi kualitas interaksi tersebut.

Seminar ini juga menjadi platform yang sangat baik untuk memfasilitasi diskusi antara berbagai pihak yang terlibat dalam pengembangan dan penerapan AI. Diskusi yang dihasilkan memberikan wawasan baru tentang bagaimana kita bisa mengatasi berbagai isu yang muncul seiring dengan semakin berkembangnya teknologi ini. Dari seminar ini, dapat disimpulkan bahwa kolaborasi antara psikologi dan teknologi sangat penting untuk menciptakan AI yang tidak hanya canggih secara teknis, tetapi juga dapat diterima dan dipahami oleh masyarakat. Dengan pendekatan yang lebih manusiawi dan etis, AI dapat berfungsi lebih optimal dalam meningkatkan kualitas hidup manusia, sekaligus membangun kepercayaan publik terhadap teknologi ini.

Seminar ini tidak hanya membahas tantangan, tetapi juga menyoroti manfaat besar yang ditawarkan AI. Dalam dunia kesehatan, AI memungkinkan deteksi penyakit lebih dini, meningkatkan akurasi diagnosis, dan mendukung pengobatan yang lebih efektif. Di sektor transportasi, mobil otonom yang dilengkapi teknologi AI mampu mengurangi angka kecelakaan lalu lintas. Sementara di bidang pendidikan, AI membuka peluang bagi pembelajaran yang disesuaikan dengan kebutuhan individu.

Kesimpulan

Kecerdasan buatan menawarkan potensi besar untuk memajukan berbagai aspek kehidupan. Namun, tantangan seperti transparansi, bias, dan kepercayaan publik harus ditangani dengan serius agar AI dapat digunakan secara etis dan bertanggung jawab. Seminar yang diadakan oleh Big Data Center IMERI FK UI menjadi langkah awal yang penting dalam menjembatani kesenjangan antara teknologi dan manusia, sekaligus membuka jalan untuk kolaborasi lintas disiplin.

Dengan pemahaman yang lebih baik tentang teori Black Box dan perilaku AI, kita dapat membangun teknologi yang tidak hanya canggih, tetapi juga transparan, adil, dan aman. Kolaborasi antara psikologi, teknologi, dan ilmu data adalah kunci untuk menciptakan AI yang benar-benar dapat dipercaya dan bermanfaat bagi seluruh lapisan masyarakat. Masa depan AI bergantung pada komitmen kita untuk memastikan bahwa teknologi ini dirancang dengan hatihati dan bertanggung jawab.

Sumber: Big Data Center IMERI FK UI