SUNTINGAN teknologi kecerdasan buatan (AI) yang direka untuk menyerupai manusia sebenar semakin menimbulkan kebimbangan dalam kalangan masyarakat.
Teknologi itu yang sering digunakan dalam bidang seperti media sosial, hiburan, dan pengiklanan kini semakin canggih sehingga sukar untuk membezakan antara yang asli dan palsu.
Kebimbangan utama adalah potensi penyalahgunaan teknologi itu untuk tujuan yang tidak baik. Misalnya, AI yang mampu menghasilkan imej atau video palsu yang menyerupai individu sebenar boleh digunakan untuk tujuan penipuan, manipulasi atau penyebaran maklumat palsu.
Malah, ada individu yang tidak bertanggungjawab semakin licik menggunakan teknologi AI tersebut untuk memanipulasi gambar dan video selebriti serta tokoh kehormat bagi menarik perhatian pengguna media sosial.
BACA LAGI: [VIDEO] Wanita parah 8 kali ditikam di Taman Sri Muda, perompak gagal kebas apa-apa
BACA LAGI: [VIDEO] Luahan sayu isteri minta pelumba jet ski, Abdullah Abdul Mubin pulang undang sebak
Ini bukan sahaja merosakkan imej selebriti yang terbabit, tetapi juga mengelirukan dan menipu orang awam, terutama mereka yang kurang berpengetahuan tentang taktik penipuan digital.
Terbaharu, usahawan dan pempengaruh media sosial Khairul Aming, mendedahkan ada pihak memanipulasi wajah dan suaranya menggunakan teknologi AI untuk melakukan penipuan.
Hari tu bermula dengan photoshop. Now sampai suara aku pun jadi AI sekarang. Imagine berapa banyak benda boleh jadi fitnah nanti pic.twitter.com/yA1MEjiFyh
— Khairulaming (@khairulaming) August 14, 2024
Melalui satu ciapan di laman X (Twitter) Khairul Aming berkata, beliau perlu tampil menjelaskan perkara tersebut bagi mengelak orang ramai menjadi mangsa sindiket penipuan tersebut.
Katanya, individu yang tidak bertanggungjawab itu telah menggunakan suara dan wajahnya bagi tujuan mempromosikan satu video iklan jualan periuk.
“Hari tu bermula dengan photoshop. Sekarang sampai suara aku pun jadi AI. Bayangkan berapa banyak benda boleh jadi fitnah nanti," katanya.
Menjengah ke ruangan komen, seorang warga maya, Taufik Amin mendedahkan selebriti terkenal, Zizan Razak pernah mengalami nasib yang sama.
"Zizan pernah kena iklan judi online dan aku hampir nak percaya masa itu. Suara dan muka sama. Hebat teknologi AI sekarang," tulisnya.
@chedetofficial pun ada masuk iklan youtube ads
“sejak sy mulai konsum kapsul ini, sy dpt berjalan dgn normal skrg” pic.twitter.com/cJXXYtUYil
— Naquiddin Razak (@NaquiddinRazak) August 14, 2024
Sementara itu, Naquiddin Razak berkata, bukan selebriti sahaja yang menjadi mangsa kerana scammer turut memanipulasi sebuah video menggunakan wajah bekas Perdana Menteri, Tun Dr Mahathir Mohamad untuk menjual produk mereka.
"@chedetofficial pun ada masuk iklan YouTube Ads," kongsinya.
Sehubungan itu, Khadeja menggesa kerajaan untuk melaksanakan pengenalan lesen media sosial dengan kadar segera kerana ia adalah salah satu langkah penting untuk mengawal dan mengurangkan aktiviti jenayah dalam talian.
"Dengan adanya lesen ini, platform media sosial akan lebih bertanggungjawab dalam menyaring kandungan yang disiarkan, sekali gus memastikan keselamatan dan kesejahteraan pengguna.
"Isu ini juga menekankan keperluan mendesak untuk memperkukuhkan undang-undang siber di Malaysia, termasuk penalti yang lebih berat bagi pihak yang terlibat dalam aktiviti penipuan," katanya.
Kesimpulannya, penggunaan AI yang menyerupai manusia sebenar dalam konteks pengiklanan atau media sosial menimbulkan isu etika kerana pengguna mungkin terpedaya atau terpengaruh oleh kandungan yang dihasilkan oleh AI, tanpa menyedari bahawa ia bukanlah hasil karya manusia.
Oleh itu, penting untuk masyarakat sedar akan kehadiran teknologi ini dan memahami implikasinya. Peraturan dan undang-undang yang lebih ketat juga diperlukan untuk mengawal penggunaan teknologi AI yang menyerupai manusia sebenar, agar ia tidak disalahgunakan dan menjejaskan kestabilan sosial serta hak asasi manusia. — Majoriti
Boleh follow media sosial Majoriti di Twitter, Facebook, Instagram dan Telegram