AI Makin Cerdas, Tapi Tetap tak Punya Hati Nurani

Agus Budiana

Teknologi | 2026-07-27 07:59:05

Ilustrasi Generated AI

Sepanjang hari ini saja, sudah berapa kali kita membiarkan sebuah aplikasi memutuskan sesuatu untuk kita? Pagi tadi, mungkin asisten virtual yang menyusun jadwal rapat.

Siang tadi, mungkin aplikasi peta yang memilih rute tercepat pulang. Atau yang lebih halus lagi, lini masa media sosial yang menentukan berita apa yang pantas kita baca hari ini. Kecerdasan buatan (AI) sudah begitu menyatu dengan keseharian, sampai-sampai kita jarang bertanya lagi: sejauh mana mesin ini boleh ikut campur dalam hidup kita, dan di titik mana ia harus berhenti?

Pertanyaan itu bukan sekadar wacana filsafat kampus. Ia hadir setiap kali algoritma bank menolak pengajuan kredit tanpa penjelasan yang jelas, setiap kali sistem rekrutmen otomatis menyaring nama-nama tertentu dari daftar wawancara, atau setiap kali chatbot kesehatan memberi saran medis yang keliru kepada orang yang sedang panik. Di titik-titik itulah "batas moral" AI berhenti menjadi teori dan mulai terasa sebagai kebutuhan yang sangat nyata.

Efisiensi yang Mengalahkan Empati

Daya tarik AI terletak pada kecepatan dan konsistensinya. Ia tidak lelah, tidak emosional, dan bisa memproses jutaan data dalam hitungan detik. Tapi justru di situlah persoalannya dimulai.

Mesin bekerja berdasarkan pola dan tujuan yang diprogramkan, bukan berdasarkan nurani. Ia tidak tahu rasanya dipecat, ditolak, atau didiskriminasi, sehingga begitu algoritma perekrutan meniru bias data masa lalu, ia melakukannya tanpa rasa bersalah sedikit pun.

Ilmuwan komputer Stuart Russell, salah satu penulis buku rujukan utama di bidang kecerdasan buatan, lama menekankan bahwa sistem AI pada dasarnya dirancang untuk bertindak rasional demi mencapai tujuan tertentu lewat pengolahan data dan pembelajaran mesin.

Persoalannya, "rasional" menurut mesin belum tentu "manusiawi" menurut kita. Sebuah algoritma bisa saja sangat efisien dalam mencapai target, namun sama sekali buta terhadap dampak sosial dari keputusannya.

Di sinilah letak batas moral pertama: efisiensi teknis tidak boleh dibiarkan menggantikan pertimbangan empati, apalagi dalam ranah yang menyangkut nasib hidup orang lain seperti pekerjaan, kesehatan, atau akses keuangan.

Dalam keseharian, ini terasa dekat sekali. Berapa banyak dari kita yang pernah kecewa karena keluhan di layanan pelanggan hanya dijawab template otomatis yang tidak nyambung? Atau merasa "diadili" oleh sistem tanpa bisa protes ke manusia yang bisa diajak bicara? Itulah wajah nyata dari AI yang efisien tapi kehilangan sisi kemanusiaannya.

Bayang-Bayang Risiko yang Tak Bisa Dianggap Remeh

Sebagian orang mungkin menganggap kekhawatiran soal AI terlalu berlebihan, semacam ketakutan fiksi ilmiah yang dibesar-besarkan. Namun anggapan itu sulit dipertahankan, sebab justru para perintis teknologi ini sendiri yang paling waspada.

Yoshua Bengio, salah satu tokoh utama di balik lahirnya deep learning dan peraih Turing Award, secara terbuka menyampaikan bahwa cara sistem AI dilatih saat ini berpotensi melahirkan sistem yang pada akhirnya bergerak berlawanan dengan kepentingan manusia, dan ia menegaskan bahwa manusia masih memiliki kendali untuk mengarahkan perkembangan ini ke jalur yang lebih aman selama tindakan diambil sekarang, bukan nanti.

Dalam berbagai kesempatan, Bengio berpendapat bahwa mengabaikan kemungkinan dampak serius AI menjadi semakin sulit dipertahankan seiring meningkatnya kemampuan sistem AI. Pernyataan semacam ini terasa berat karena datang bukan dari pengamat luar yang asal bicara, melainkan dari orang yang ikut membangun fondasi teknologi tersebut sejak awal.

Kekhawatiran itu sebenarnya juga hadir dalam skala yang jauh lebih sederhana dan dekat dengan rumah tangga kita. Anak-anak yang tumbuh dengan asisten suara yang selalu "mengiyakan", remaja yang kecanduan validasi dari rekomendasi algoritma media sosial, hingga orang tua yang mempercayakan keputusan finansial pada robo-advisor tanpa benar-benar memahami risikonya.

Semua itu adalah bentuk kecil dari pertanyaan besar yang sama: siapa yang sebenarnya memegang kendali, manusia atau sistem yang kita ciptakan sendiri?

Data Bukan Sekadar Angka, tapi Cermin Ketimpangan Sosial

Salah satu ilusi paling berbahaya soal AI adalah anggapan bahwa mesin itu netral karena "hanya mengikuti data". Padahal data itu sendiri adalah rekaman dari dunia yang timpang, penuh prasangka, dan tidak selalu adil.

Peneliti etika AI, Timnit Gebru, yang dikenal luas lewat kajiannya soal bias algoritmik dan pendiri lembaga riset AI terdistribusi, menegaskan bahwa persoalan sosial dan struktural yang sudah ada di masyarakat tidak bisa begitu saja diabaikan dalam pembicaraan soal teknologi kecerdasan buatan.

Dengan kata lain, bias yang muncul di layar ponsel kita bukan kesalahan mesin semata, melainkan cerminan dari ketimpangan yang sudah lama ada di sekitar kita, hanya saja kini digandakan dalam skala yang jauh lebih besar dan cepat.

Bayangkan sistem pengenalan wajah yang lebih sering salah pada orang berkulit gelap, atau algoritma pinjaman daring yang secara diam-diam mempersulit kelompok tertentu.

Ini bukan skenario jauh di negara lain; praktik semacam ini juga mengintai keseharian kita di sini, tiap kali kita mengisi formulir digital, mengunggah swafoto untuk verifikasi identitas, atau mengajukan pinjaman lewat aplikasi.

Batas moral yang ketiga inilah yang paling mudah luput dari perhatian kita: keharusan untuk terus mempertanyakan, data siapa yang dipakai melatih mesin ini, dan siapa yang berisiko dirugikan olehnya.

Menutup Jarak antara Kecanggihan dan Kemanusiaan

Pada akhirnya, kecerdasan buatan bukanlah entitas yang berdiri sendiri dan bertanggung jawab atas dirinya sendiri. Ia adalah cermin dari nilai, kepentingan, dan bahkan kelalaian orang-orang yang merancangnya.

Batas moral AI, karena itu, sebenarnya adalah batas moral kita sendiri, sejauh mana kita berani menaruh empati, keadilan, dan tanggung jawab di atas rasa kagum pada kecanggihan teknologi.

AI tidak memiliki hati nurani. Ia hanya menjalankan tujuan yang diberikan manusia. Karena itu, pertanyaan terbesar abad ini bukanlah apakah mesin akan menjadi lebih pintar daripada manusia, melainkan apakah manusia masih cukup bijaksana untuk mengendalikan kecerdasannya sendiri.