Fenomena meningkatnya penggunaan Artificial Intelligence (AI) sebagai tempat bercerita dan mencari validasi emosi banyak digandrungi anak muda saat ini. AI dianggap mampu memberikan rasa aman bagi seseorang yang curhat atau pun mencurahkan keluh kesahnya tanpa takut adanya judgement. Fenomena seperti ini memiliki resiko berbahaya dibaliknya hingga mampu membahayakan nyawa manusia sebab AI tidak memiliki empati dan perasaan sehingga tidak ada yang bisa bertanggung jawab atas resiko yang ditimbulkan.
Guru Besar Fakultas Teknik UGM, Prof. Dr. Ir. Ridi Ferdiana, S.T., M.T., IPM., menjelaskan bahwa AI merupakan produk teknologi yang dari sisi bisnis yang diharapkan bisa menyentuh ke tingkat persoalan agar produk ini digandrungi sekaligus dipercaya kredibilitasnya.
“Dari sudut pandang bisnis fenomena ini adalah posisi yang sangat strategis karena sebuah produk yang bisa menyentuh sampai level personal yang diharapkan dekat dengan keseharian manusia,” kata Ridi, kamis (4/12).
Jika dilihat dari sudut pandang teknis, kata ridi, target utama dari konsep digital transformasi diharapkan teknologi ini bisa mentransformasi manusia sehingga aware dengan aspek digital. Menurutnya, tidak ada yang salah menjadikan AI sebagai teman lawan bicara atau curhat. “Tidak ada yang salah dari penggunaan AI sebagai teman bicara,” jelasnya.
Sementara dari aspek sosial, kata Ridi, chatbot AI ini adalah satu bentuk personal yang relatif konsisten untuk membantu berinteraksi dalam kondisi yang ideal. Akan tetapi, ini bukanlah suatu bentuk kepedulian melainkan hanya mekanisme menebak kata selanjutnya. AI bekerja dengan prinsip mesin pembelajaran, belajar dari data berkualitas yang telah diproses sebelumnya atau pre-processing. “Intinya yang mau dikatakan maka akan muncul kata yang diinginkan. AI itu berprinsip garbage in, garbage out. Kalau masuknya jelek, keluarnya jelek,” jelasnya.
Perkembangan saat ini menurut Ridi, telah dikembangkan teknologi yang menuju AI dapat memiliki perasaan dan empati. AI berkembang menuju agentic AI dimana sistem yang tidak hanya merespons tetapi juga melakukan aksi tertentu. Meski memberikan banyak manfaat,. Ridi menekankan pentingnya governance dan kebijakan penggunaan AI. “AI itu seperti obat. Kalau digunakan berlebihan, bisa menimbulkan ‘keracunan’,” ujarnya.
Menurutnya AI harus dirancang aman sejak awal atau by design, Prinsip Responsible AI, Ethical AI, dan Transparency AI penting untuk memastikan AI tidak menimbulkan dampak negatif, termasuk risiko halusinasi atau kesalahan fakta dan pengaruh yang tidak disadari pengguna. “Gunakan AI secukupnya. Sama seperti fitur screen time di smartphone, kita perlu membatasi diri ketika menggunakan AI sebagai ruang curhat. Jangan sampai bergantung sepenuhnya dan kehilangan kendali atas diri kita sendiri,” pesannya.
Penulis : Jelita Agustine
Editor : Gusti Grehenson
Foto : Blablast.id