Chatbot boleh sebabkan penipuan dalam perniagaan

30 OGOS : Chatbot yang diintergrasi dan dipacu oleh kecerdasan buatan (AI) kemungkinan boleh menyebabkan berlaku penipuan dalam perniagaan.

Pihak berkuasa Britain Pusat Keselamatan Siber Kebangsaan Britain (NCSC), memberi amaran itu dalam satu catatan blog yang diterbitkan hari ini.

Kata NCSC, ketika ini pakar masih belum mampu mencari penyelesai kepada masalah keselamatan berkaitan algoritma yang boleh menjana interaksi bunyi manusia.

Chatbot bukan hanya untuk menggantikan carian Internet tetapi juga sebagai perkhidmatan pelanggan dan panggilan jualan.

Menurut NCSC, ia boleh membawa risiko terutama apabila model sedemikian dimasukkan ke dalam elemen proses perniagaan organisasi.

Mislanya, chatbot berkuasa AI yang digunakan oleh bank mungkin tertipu untuk membuat transaksi tanpa kebenaran jika penggodam menstrukturkan pertanyaan dengan tepat.

“Perkhidmatan pembinaan organisasi yang menggunakan LLM (model bahasa besar) perlu berhati-hati, sama seperti jika mereka menggunakan perpustakaan produk atau kod yang dalam versi beta (merujuk kepada keluaran perisian percubaan).

“Mereka mungkin tidak membenarkan produk itu terbabit dalam membuat transaksi bagi pihak pelanggan dan diharapkan perniagaan tidak akan mempercayainya sepenuhnya. Perhatian itu harus diberikan kepada LLM juga,” kata NCSC dalam satu catatan blognya.

Ketika ini pihak berkuasa di seluruh dunia sedang bergelut dengan kebangkitan LLM seperti OpenAI’s ChatGPTa yang mana perniagaan sudah menggabungkan ke dalam pelbagai perkhidmatan, termasuk jualan dan penjagaan pelanggan.

Implikasi keselamatan AI ketika ini masih menjadi tumpuan dengan pihak berkuasa di Amerika Syarikat dan Kanada mengatakan mereka melihat penggodam mula menggunakan teknologi itu.