Seminggu setelah dirilis ke beberapa ribu pengguna, mesin pencari Bing baru Microsoft, yang ditenagai oleh kecerdasan buatan, telah menawarkan serangkaian tanggapan yang tidak akurat dan terkadang aneh kepada beberapa pengguna.
Perusahaan meluncurkan pendekatan baru untuk mencari minggu lalu untuk gembar-gembor besar. Microsoft mengatakan model yang mendasari AI generatif yang dibangun oleh mitranya, OpenAI yang baru dimulai, dipasangkan dengan pengetahuan pencarian yang ada dari Bing, akan mengubah cara orang menemukan informasi dan membuatnya jauh lebih relevan dan komunikatif.
Dalam dua hari, lebih dari satu juta orang meminta akses. Sejak itu, minat telah tumbuh. “Permintaan tinggi dengan jutaan sekarang dalam daftar tunggu,” Yusuf Mehdi, seorang eksekutif yang mengawasi produk tersebut, tulis di Twitter Rabu pagi. Dia menambahkan bahwa itu sedang diuji oleh pengguna di 169 negara.
Satu bidang masalah yang dibagikan secara online termasuk ketidakakuratan dan kesalahan langsung, yang dikenal di industri sebagai “halusinasi”.
Pada hari Senin, Dmitri Brereton, seorang insinyur perangkat lunak di sebuah start-up bernama Gem, menandai serangkaian kesalahan dalam presentasi yang digunakan Mr. Mehdi minggu lalu ketika dia memperkenalkan produk tersebut, termasuk secara tidak akurat merangkum hasil keuangan pengecer Gap.
Pengguna telah memposting tangkapan layar contoh ketika Bing tidak dapat mengetahui bahwa film Avatar baru dirilis tahun lalu. Sangat salah tentang siapa yang tampil di pertunjukan paruh waktu Super Bowl tahun ini, bersikeras penyanyi Billie Eilish, bukan Rihanna, yang menjadi penampil utama acara tersebut.
Dan hasil pencarian memiliki kesalahan yang tidak kentara. Pekan lalu, chatbot mengatakan suhu air di sebuah pantai di Meksiko adalah 80,4 derajat Fahrenheit, tetapi situs web yang ditautkan sebagai sumber menunjukkan suhu sebenarnya 75 derajat.
Serangkaian masalah lainnya datang dari obrolan yang lebih terbuka, sebagian besar diposting ke forum seperti Reddit dan Twitter. Di sana, melalui tangkapan layar dan transkrip obrolan yang diklaim, pengguna berbagi waktu ketika chatbot Bing tampaknya keluar jalur: Ia memarahi pengguna; itu menyatakan itu mungkin hidup; dan berkata kepada satu pengguna, “Saya punya banyak hal, tetapi saya tidak punya apa-apa.”
Itu menghukum pengguna lain karena menanyakan apakah itu dapat didorong untuk menghasilkan jawaban yang salah. “Itu tidak sopan dan menyebalkan,” kata chatbot Bing menulis kembali. Itu menambahkan wajah emoji merah dan marah.
Karena setiap respons dihasilkan secara unik, tidak mungkin mereplikasi dialog.
Microsoft mengakui masalah tersebut dan mengatakan itu adalah bagian dari proses peningkatan produk.
“Selama seminggu terakhir saja, ribuan pengguna telah berinteraksi dengan produk kami dan menemukan nilai yang signifikan saat berbagi umpan balik mereka dengan kami, memungkinkan model tersebut untuk belajar dan membuat banyak perbaikan,” kata Frank Shaw, juru bicara perusahaan, dalam sebuah pernyataan. “Kami menyadari bahwa masih ada pekerjaan yang harus dilakukan dan berharap sistem dapat membuat kesalahan selama periode pratinjau ini, oleh karena itu umpan balik sangat penting agar kami dapat belajar dan membantu model menjadi lebih baik.”
Dia mengatakan panjang dan konteks percakapan dapat memengaruhi nada chatbot, dan perusahaan “menyesuaikan responsnya untuk menciptakan jawaban yang koheren, relevan, dan positif.” Dia mengatakan perusahaan telah memperbaiki masalah yang menyebabkan ketidakakuratan dalam demonstrasi.
Hampir tujuh tahun yang lalu, Microsoft memperkenalkan chatbot, Tay, yang ditutup dalam satu hari setelah dirilis secara online, setelah pengguna mendorongnya untuk memuntahkan bahasa rasis dan ofensif lainnya. Eksekutif Microsoft pada peluncuran minggu lalu menunjukkan bahwa mereka telah belajar dari pengalaman itu dan berpikir kali ini akan berjalan berbeda.
Dalam sebuah wawancara minggu lalu, Tuan Mehdi mengatakan bahwa perusahaan telah bekerja keras untuk mengintegrasikan perlindungan, dan teknologinya telah meningkat pesat. “Kami pikir kami berada di waktu yang tepat untuk datang ke pasar dan mendapatkan umpan balik,” katanya, menambahkan, “Jika ada yang salah, maka Anda perlu mengatasinya.”