Sebelum memulai artikel ini saya perlu menjelaskan atau disclaimer seperti itu, bahwa saya tidak mendukung, atau bermaksud lainnya, selain untuk memberikan informasi dengan tujuan untuk edukasi tentang dampak negatif teknologi Kecederdasan Buatan atau Artificial Intelligence (AI). Saya sudah menghilangkan semua identitas aplikasi (nama aplikasi, URL dan nama akun) pada gambar-gambar yang terdapat pada artikel ini.

Kemarin, tepatnya pada hari Rabu (7/9/2023) saya mendapatkan informasi dari Agan Harahap tentang sebuah aplikasi untuk ponsel yang dapat digunakan untuk dapat “menelanjangi” sebuah foto.

Awalnya saya biasa saja melihat beberapa foto yang konon katanya dihasilkan oleh aplikasi tersebut. Karena di jaman digital seperti ini, alterasi atau ubah suai atau editing foto seperti itu bukan sesuatu yang asing bagi saya.

Namun yang membuat saya lumayan terkejut adalah bahwa aplikasi tersebut katanya mengandalkan teknologi AI yang bagi saya menambah satu lagi khazanah pustaka saya tentang dampak negatif teknologi AI tersebut.

Melihat beberapa hasil foto itu, saya jadi teringat sebuah kasus yang dialami oleh seorang pengguna aplikasi TikTok; Safira Hunar, yang beberapa waktu lalu sempat gembar karena beredar foto dirinya yang tidak senonoh beredar di internet. Akurasi dan kebenaran informasi tentang foto-foto begitu sangat dapat diragukan !!!

Gambar di atas adalah tampilan dari laman resmi aplikasi tersebut. Namun seperti yang sudah saya sampaikan pada awal artikel ini, saya harus menghapus URL dan identitas lainnya terkait dengan nama aplikasi dan akun aplikasi tersebut.

Sebenarnya aplikasi ini tidak terlampau spesial secara mekanisme kerjanya yang sama-sama menggunakan Large Language Model (LLM), karena sudah terdapat beberapa aplikasi synthetic imaging sebelumnya seperti MidJourney yang juga menggunakan Discord untuk pengeloaan akun penggunaan. Namun karena penggunaan aplikasi inilah yang membuatnya mungkin sedikit berbeda secara fungsi.

Pada halaman depan laman aplikasi tersebut disampaikan bahwa penggunaan aplikasi tersebut dapat digunakan secara gratis alias tidak perlu membayar. Namun kalau kita simak dengan lebih teliti, bahwa aplikasi tersebut menawarkan semacam skema waralaba, atau mungkin MLM (Multi Level Marketing).

Karena pada laman tersebut terdapat menu untuk Make Money Together, yang kalau kita klik maka akan menampilkan halaman selanjutnya yang berisi beberapa pilihan untuk bergabung dan cara mendapatkan akses untuk menggunakan aplikasi tersebut.

Layaknya aplikasi yang biasa kita gunakan, laman dari aplikasi ini juga mencantumkan 2 informasi yang lazim terdapat pada laman internet biasanya, yaitu informasi tentang:

• Privacy Policy
• Terms of Service

Setelah saya simak dan membaca informasi yang terdapat pada kedua laman tersebut, saya tidak menemukan informasi yang sedemikian akurat selain informasi yang sangat standar tentang Privacy Policy dan Terms of Service.

Selain itu, laman aplikasi ini juga mencantumkan alamat email yang dapat dihubungi untuk dapat berkomunikasi dengan para pengembang dari aplikasi ini.

Minimnya informasi yang terdapat pada kedua laman tersebut membuat saya semakin curiga dengan aplikasi tersebut.

Mengapa curiga?

Karena ternyata walaupun pada laman aplikasi tersebut tercantum logo Apple dan Android, namun aplikasi tersebut menggunakan ternyata dalam format APK sebelum diinstal pada ponsel penggunanya.

APK itu sendiri digunakan untuk mendistribusikan dan memasang software dan middleware ke ponsel dengan sistem operasi Android atau iOS, mirip dengan paket MSI pada Windows atau Deb pada OS Debian.

Hal itu berarti aplikasi tersebut tidak tersedia di App Store milik Apple maupun Google Play Store. Resiko menginstal aplikasi yang tidak berasal dari keduanya tentu punya resiko yang lumayan tinggi terkait dengan keamanan data dan informasi pribadi kita dalam penggunaan aplikasi sejenis itu.

Selain alamat email yang tercantum, laman aplikasi tersebut juga menyediakan fitur untuk bisa berkomunikasi langsung dengan pengembang aplikasi tersebut.

Dan ternyata aplikasi tersebut mulai diluncurkan sekitar bulan Juli 2023. Hal tersebut dapat disimak dari informasi yang terdapat di Google dan juga akun media sosial yang digunakan oleh pengembang aplikasi tersebut. Namun bisa jadi aplikasi tersebut sudah ada sebelumnya hanya dengan versi atau jenis layanan yang berbeda.

Lantas cara penggunaan aplikasi ini bagaimana?

Saya tidak akan membahas tentang hal tesebut, namun seperti yang terdapat pada gambar berikut ini, setiap orang yang akan menggunakan aplikasi ini harus membeli koin digital yang cara pembelian dan penggunaannya dijelaskan pada group aplikasi Telegram, LINE, dll yang digunakan oleh pengembang aplikasi ini.

Bayangkan saja apabila aplikasi seperti ini digunakan untuk tujuan yang negatif, terutama bangsa kita sudah masuk ke dalam tahun politik.

Kelemahan bangsa kita yang sedemikian enggan membaca dan rendahnya literasi digital (malas melakukan verifikasi informasi, khususnya yang didapat dari internet) dapat dengan mudah dimanfaatkan oleh para pihak yang tidak bertanggung jawab.

Artikel ini tidak bermaksud untuk mengatakan bahwa teknologi AI itu buruk, sama sekali tidak !!!

Teknologi AI itu sangat bermanfaat dan membantu kita, setidaknya membantu saya sebagai seorang fotografer dan telah membantu saya juga untuk menghasilkan uang.

Namun, walaupun demikian, kita harus tetap berhati-hati dengan dampak negatifnya. Terutama bagi para pengguna yang masih belum matang dalam menentukan aplikasi apa yang dapat bermanfaat dan mana yang tidak.

Semoga bermanfaat.