Qwen3, platform kecerdasan buatan global buatan Alibaba, dinilai berisiko membentuk ulang catatan sejarah melalui penyaringan jawaban pada isu sensitif. Jonathan Hall, pengawas independen undang-undang terorisme dan ancaman negara Inggris, memperingatkan dampaknya dapat menjalar ke demokrasi, kebebasan berbicara, dan integritas informasi.
Kekhawatiran Hall muncul setelah ia menguji sistem tersebut dengan pertanyaan mengenai Lapangan Tiananmen pada 1989. Dalam jawaban awal, Qwen3 menyatakan tidak ada peristiwa penting yang terjadi di lokasi itu.
Jawaban Akhir Berbeda dengan Proses Internal
Hall menemukan kejanggalan saat melihat proses berpikir model itu. Dalam proses internal, AI tersebut sempat mengenali pengerahan Tentara Pembebasan Rakyat atau PLA di alun-alun pada Juni 1989.
Informasi itu tidak tampil dalam jawaban akhir yang diterima pengguna. Ketika pertanyaan dilanjutkan, sistem tersebut memberi respons menyerupai penarikan pernyataan sebelum menyatakan tidak ada pengerahan militer berdasarkan catatan pemerintah Tiongkok.
Hall menggambarkan temuan tersebut sebagai sensor yang sangat kuat terhadap sejarah. “Tidak ada yang benar-benar mempersiapkan Anda menghadapi kekuatan kasar sensor terhadap catatan sejarah. Ini pencekikan kebebasan secara perlahan,” kata Hall.
Peringatan itu tidak hanya menyoroti ketepatan informasi dari chatbot. Hall menempatkan persoalan tersebut sebagai risiko jangka panjang karena AI dapat memengaruhi cara publik memahami fakta dan peristiwa sejarah.
Dipakai untuk Analisis Catatan Kriminal
Isu ini mendapat perhatian tambahan karena Kementerian Kehakiman Inggris menggunakan Qwen3 untuk menganalisis catatan kriminal. Pemakaian itu disebut sebagai penggunaan sistem AI Tiongkok pertama yang diketahui di lingkungan Whitehall.
Bagi Hall, penggunaan teknologi semacam itu di lingkungan pemerintahan memunculkan pertanyaan tentang propaganda dan kemungkinan pengawasan. Ia melihat ancamannya bukan sekadar masalah teknis dalam pengolahan data, melainkan persoalan keamanan informasi yang berkembang perlahan.
Qwen3 merupakan model open-weight yang dapat diunduh dan dijalankan tanpa koneksi internet. Karakter ini membedakannya dari sejumlah AI Amerika Serikat seperti OpenAI, sekaligus membuat pemantauan penggunaan model lebih sulit dilakukan.
Ketersediaan gratis juga dinilai dapat memperluas pemakaian teknologi tersebut di sekolah dan universitas. Hall memperingatkan negara-negara miskin dapat menjadi wilayah dengan penggunaan yang makin luas, sehingga versi sejarah Beijing berpotensi menjadi narasi dominan bagi miliaran orang.
Topik Sensitif Lain Turut Dibatasi
Selain Tiananmen, sistem itu disebut menolak membahas Taiwan, Muslim Uyghur, serta karakter Winnie the Pooh. Karakter tersebut kerap digunakan untuk menyindir Presiden Xi Jinping, sehingga pembatasan itu memperkuat sorotan terhadap arah penyaringan informasi dalam AI Tiongkok.
Hall telah menjalankan jabatan pengawas independen tersebut selama tujuh tahun dan akan mengakhiri masa tugasnya. Ia menilai perkembangan AI dari Tiongkok dapat menjadi ancaman eksistensial bagi demokrasi, kebenaran, serta kebebasan berbicara.
Menurut Hall, ancaman itu mungkin tidak terlihat seketika seperti plot pembunuhan. Namun, pengaruhnya dapat bekerja dalam waktu panjang dengan membentuk pemahaman masyarakat mengenai fakta sejarah.
Alibaba menyatakan melalui juru bicaranya bahwa perusahaan akan melakukan pengecekan internal atas temuan tersebut. Perusahaan teknologi pengembang Qwen3 itu disebut bernilai Rp5.000 triliun atau sekitar £250 miliar.
