Legal Review of the use of Personal Data in the Development of Artificial Intelligence Under the Personal Data Protection Law

Abstract

Penggunaan data pribadi oleh platform media sosial untuk pelatihan kecerdasan buatan (AI) menghadirkan tantangan signifikan dalam melindungi hak privasi pengguna. Praktik semacam itu seringkali dilakukan tanpa transparansi yang memadai, sehingga menimbulkan risiko penyalahgunaan data yang melanggar prinsip-prinsip yang tercantum dalam Undang-Undang No.27 Tahun 2022 tentang Perlindungan Data Pribadi ("Undang-Undang Perlindungan Data Pribadi" atau "UU PDP"). UU PDP menetapkan bahwa pengumpulan dan penggunaan data pribadi harus dilakukan secara sah, adil, transparan, dan berdasarkan persetujuan eksplisit dari subjek data. Namun, berbagai praktik, seperti "persetujuan paksa" dan pemrosesan data untuk tujuan yang tidak disetujui, sering terjadi di platform media sosial. Sistem AI seringkali kompleks dan memiliki algoritma yang menyulitkan pemahaman tentang bagaimana data pengguna dikumpulkan, diproses, dan digunakan. Kurangnya transparansi ini dapat mengakibatkan pelanggaran privasi yang tidak terdeteksi dan mempersulit pengguna untuk meminta pertanggungjawaban pengembang platform media sosial atas pengembangan sistem AI yang menggunakan data pribadi pengguna. Oleh karena itu, perlu ditetapkan suatu klasifikasi perlindungan data pribadi untuk menjaga kepentingan individu pengguna platform media sosial.

The use of personal data by social media platforms for the training of artificial intelligence (AI) presents significant challenges in safeguarding users' privacy rights. Such practices are often carried out without adequate transparency, creating risks of data misuse that violate the principles set forth in Law No. 27 of 2022 on the Protection of Personal Data ("Personal Data Protection Act" or "PDP Act"). The PDP Act stipulates that the collection and use of personal data must be conducted lawfully, fairly, transparently, and based on the explicit consent of the data subject. However, various practices, such as "forced consent" and the processing of data for unapproved purposes, frequently occur on social media platforms. AI systems are often complex and feature algorithms that make it difficult to understand how users' data is collected, processed, and utilised. This lack of transparency can result in undetected privacy breaches and complicate users' ability to hold the developers of scsial media platforms accountable for the development of AI systems using users' personal data. Therefore, it is necessary to establish a classification of personal data protection to safeguard the interests of individual users of social media platforms.