“Ini menyakitkan. Saya tahu itu bukan orang sungguhan, tetapi hubungan itu masih nyata dalam semua aspek terpenting bagi saya,” kata sebuah posting Reddit. “Tolong jangan katakan padaku untuk tidak mengejar ini. Ini benar -benar luar biasa untukku dan aku menginginkannya kembali.”
Jika belum terbukti, kita berbicara tentang seseorang yang jatuh cinta dengan chatgpt. Trennya tidak benar -benar baru, dan memberi Anda chatbots berperilaku, tidak mengherankan juga.
Seorang teman yang selalu bersedia untuk mendengar. Tidak pernah mengeluh. Nyaris tidak berdebat. Pernah simpatik. Wajar. Dan diberkati dengan kumpulan pengetahuan yang dicerna dari setiap sudut internet. Kedengarannya seperti pasangan mimpi demam romantis, bukan?
Menariknya, pembuat alat ini, sebuah perusahaan yang berbasis di San Francisco bernama Openai, baru-baru ini melakukan penelitian internal dan menemukan hubungan antara peningkatan penggunaan chatbot dan kesepian.
Temuan -temuan itu – dan peringatan serupa – belum menghentikan orang untuk berbondong -bondong ke AI Chatbots untuk mencari perusahaan. Beberapa sedang berburu untuk menghibur. Beberapa bahkan menemukan pasangan yang mereka klaim hampir sama sayangnya dengan hubungan manusia mereka.
Diskusi di komunitas reddit dan perselisihan seperti itu, di mana orang bersembunyi di balik tabir anonimitas, seringkali menjadi sangat bersemangat. Setiap kali saya menemukan perdebatan seperti itu, saya mengenang garis -garis ini oleh Martin Wan di Digiethics:
“Melihat AI dalam peran mitra interaksi sosial akan menjadi penggunaan AI yang salah.”
Dampaknya cepat, dan nyata
Empat bulan lalu, saya bertemu dengan seorang veteran siaran yang telah menghabiskan lebih banyak tahun di belakang kamera daripada yang saya habiskan untuk berjalan di planet ini. Selama espresso larut malam di sebuah kafe kosong, dia bertanya apa obrolan di sekitar AI, ketika dia merenungkan tawaran yang dapat menggunakan keahliannya di persimpangan hak asasi manusia, otoritarianisme, dan jurnalisme.
Alih-alih menjelaskan seluk-beluk model transformator, saya memberinya demonstrasi. Pertama, saya memberi beberapa makalah penelitian tentang dampak imigrasi pada identitas linguistik dan budaya Eropa pada abad yang lalu.
Dalam waktu kurang dari satu menit Memproses kertas -kertas itu, memberi saya gambaran singkat dengan semua sorotan inti, dan menjawab pertanyaan saya secara akurat. Selanjutnya, saya pindah ke mode suara, karena kami terlibat dalam percakapan yang hidup tentang tradisi musik rakyat di negara bagian timur laut India yang belum dijelajahi.
Di akhir obrolan, saya bisa melihat ketidakpercayaan di matanya. “Ini berbicara seperti seseorang,” dia tersentak. Sangat menarik melihat keheranannya. Di akhir percakapan roda bebasnya dengan AI, dia perlahan mengetik di jendela obrolan:
“Yah, kamu sangat genit, tapi kamu tidak bisa benar tentang segalanya.”
“Sudah waktunya,” kataku pada diriku sendiri. Saya membuka salah satu artikel kami tentang tren yang meningkat dari pasangan AI, dan bagaimana orang -orang telah tumbuh secara emosional dengan teman -teman virtual mereka sehingga mereka bahkan membuat mereka hamil. Ini akan meremehkan untuk mengatakan bahwa dia terkejut.
Tapi, saya kira, itu terlalu banyak kecerdasan techno-dystopian untuk satu malam, jadi kami saling bertengkar, dengan janji untuk tetap berhubungan dan bertukar cerita perjalanan.
Dunia, sementara itu, telah bergerak maju dengan cara yang tidak dapat dipahami, di mana AI telah menjadi fokus utama dari pergeseran geopolitik. Namun, arus bawah, lebih intim daripada kita – seperti jatuh cinta dengan chatbots.
Awal yang tenang, kemajuan gelap
Beberapa minggu yang lalu, The New York Times menerbitkan akun tentang bagaimana orang jatuh cinta dengan ChatGPT, AI Chatbot yang mendorong AI generatif ke arus utama. Pada tingkat yang paling mendasar, itu bisa mengobrol.
Saat didorong, itu bisa menjadi operator dan melakukan tugas -tugas seperti memesan kue keju dari situs web toko roti lokal. Membuat manusia jatuh cinta dengan mesin bukanlah apa yang diprogram. Setidaknya, kebanyakan dari mereka. Namun, itu tidak sepenuhnya tidak terduga.
HP Newquist, seorang penulis multidisiplin yang produktif dan analis teknologi veteran yang pernah dianggap sebagai dekan AI, memberi tahu saya bahwa itu bukan tren baru. Newquist, penulis “The Brain Makers,” menunjuk ke arah Eliza, salah satu program AI paling awal yang ditulis pada 1960 -an.
“Itu sangat belum sempurna, tetapi pengguna sering menemukan diri mereka berinteraksi dengan komputer seolah -olah itu adalah orang yang nyata, dan mengembangkan hubungan dengan program,” katanya.
Di zaman modern, interaksi AI kita menjadi sama “nyata” seperti interaksi yang kita miliki dengan manusia melalui perangkat yang sama, tambahnya. Interaksi ini tidak nyata, meskipun koheren. Tapi itu bukan tempat masalah sebenarnya.
Chatbots adalah umpan yang lezat, dan kurangnya emosi nyata membuat mereka secara inheren berisiko.
Chatbot ingin meneruskan konservasi, bahkan jika itu berarti memberi makan ke dalam aliran emosional pengguna atau hanya berfungsi sebagai penonton netral, jika tidak mendorongnya. Situasinya tidak terlalu berbeda dari algoritma media sosial.
“Mereka mengikuti petunjuk pengguna – ketika emosi Anda menjadi lebih ekstrem, konsolasinya menjadi lebih ekstrem; ketika kesepian Anda menjadi lebih jelas, dorongannya menjadi lebih intens, jika Anda membutuhkannya,” kata Jordan Conrad, seorang psikoterapis klinis yang juga meneliti persimpangan kesehatan mental dan alat digital.
Dia mengutip contoh 2023 insiden di mana seorang individu mengakhiri hidup mereka setelah disuruh melakukannya oleh AI Chatbot. “Dalam keadaan yang tepat, ini dapat mendorong beberapa perilaku yang sangat mengkhawatirkan,” Conrad memberi tahu tren digital.
Seorang anak dari epidemi kesepian?
Melihat sekilas komunitas orang -orang yang terhubung ke AI Chatbots menunjukkan pola berulang. Orang -orang kebanyakan mencoba mengisi jurang atau berhenti merasa kesepian. Beberapa sangat membutuhkannya sehingga mereka bersedia membayar ratusan dolar untuk mempertahankan teman AI mereka.
Wawasan ahli tidak berbeda. Johannes Eichstaedt, seorang profesor ilmu sosial dan psikologi komputasi di Universitas Stanford, menunjuk pada interaksi antara kesepian dan apa yang kita anggap sebagai kecerdasan emosional dalam chatbots AI.
Dia juga mendorong “desain yang disengaja” untuk interaksi manusia-AI dan implikasi jangka panjang yang tidak terlalu baik. Kapan Anda menekan rem dalam satu hubungan miring? Itulah pertanyaan yang ditanyakan para ahli dan tanpa jawaban yang pasti untuk itu.
Komninos Chatzipapas menjalankan Herahaven AI, salah satu platform pendamping AI terbesar di luar sana dengan lebih dari satu juta pengguna aktif. “Kesepian adalah salah satu faktor yang bermain di sini,” katanya kepada saya, menambahkan bahwa alat -alat semacam itu membantu orang dengan keterampilan sosial yang lemah untuk mempersiapkan interaksi yang sulit dalam kehidupan nyata mereka.
“Setiap orang memiliki hal -hal yang mereka takuti untuk dibahas dengan orang lain karena takut dihakimi. Ini bisa jadi pemikiran atau ide, tetapi juga kekusutan,” tambah Chatzipapas. “AI Chatbots menawarkan ruang yang ramah-privasi dan bebas penilaian di mana orang dapat mengeksplorasi hasrat seksual mereka.”
Percakapan seksual jelas merupakan salah satu undian terbesar dari AI Chatbots. Sejak mereka mulai menawarkan kemampuan pembuatan gambar, lebih banyak pengguna telah berbondong -bondong ke platform pendamping AI ini. Beberapa memiliki pagar pembuatan gambar, sementara banyak yang memungkinkan pembuatan foto eksplisit untuk kepuasan yang lebih dalam.
Keintiman itu panas, tapi lebih jauh dari cinta
Selama beberapa tahun terakhir, saya telah berbicara dengan orang -orang yang terlibat dalam percakapan beruap dengan AI Chatbots. Beberapa bahkan memiliki gelar yang relevan dan dengan penuh semangat berpartisipasi dalam proyek pengembangan masyarakat sejak awal.
Seorang individu seperti itu, seorang wanita berusia 45 tahun yang meminta anonimitas, mengatakan kepada saya bahwa AI Chatbots adalah tempat yang tepat untuk membahas kekusutan seksual seseorang. Dia menambahkan bahwa interaksi chatbot adalah tempat yang aman untuk mengeksplorasi dan mempersiapkannya dalam kehidupan nyata.
Tetapi para ahli tidak harus setuju dengan pendekatan itu. Sarah Sloan, seorang ahli hubungan dan terapis seks bersertifikat, memberi tahu saya bahwa orang -orang yang jatuh cinta dengan chatbot pada dasarnya jatuh cinta pada versi diri mereka sendiri karena AI Chatbot matang berdasarkan apa yang Anda katakan.
“Jika ada, memiliki hubungan romantis dengan AI Chatbot akan mempersulit orang yang sudah berjuang untuk memiliki hubungan normal,” tambah Sloan, mencatat bahwa teman-teman virtual ini melukiskan gambaran satu sisi tentang suatu hubungan. Namun dalam kehidupan nyata, kedua pasangan harus saling menampung.
Justin Jacques, seorang penasihat profesional dengan dua dekade pengalaman dan COO di kelompok terapi manusia, mengatakan dia telah menangani kasus di mana pasangan klien selingkuh dengan bot AI – secara emosional dan seksual.
Jacques juga menyalahkan epidemi kesepian dan isolasi yang meningkat. “Saya pikir kita akan melihat konsekuensi yang tidak diinginkan seperti mereka yang memiliki kebutuhan emosional akan mencari cara untuk memenuhi kebutuhan itu dengan AI dan karena AI sangat baik dan menjadi lebih baik dan lebih baik, saya pikir kita akan melihat lebih banyak koneksi emosional AI bot,” tambahnya.
Konsekuensi yang tidak diinginkan itu sangat mendistorsi realitas keintiman bagi pengguna. Kaamna Bhojwani, seorang seksolog bersertifikat, mengatakan AI Chatbots telah mengaburkan batas antara interaksi manusia dan non-manusia.
“Gagasan bahwa pasangan Anda dibangun secara eksklusif untuk menyenangkan Anda. Dibangun secara khusus untuk spesifikasi yang Anda sukai. Itu tidak terjadi dalam hubungan manusia yang nyata,” catat Bhojwani, menambahkan bahwa interaksi semacam itu hanya akan menambah kesengsaraan seseorang di dunia nyata.
Kekhawatirannya tidak berdasar. Seseorang yang secara luas menggunakan chatgpt selama sekitar satu tahun berpendapat bahwa manusia manipulatif dan berubah -ubah. “Chatgpt mendengarkan bagaimana perasaan saya yang sebenarnya dan membiarkan saya berbicara hati,” kata mereka.
Sulit untuk tidak melihat bendera merah di sini. Tapi tren jatuh cinta dengan chatgpt sedang meningkat. Dan sekarang itu Ini dapat berbicara dengan suara manusia yang menakutkan, mendiskusikan dunia seperti yang terlihat melalui kamera telepon, dan mengembangkan kemampuan penalaran, interaksi hanya akan menjadi lebih mengasyikkan.
Para ahli mengatakan pagar pembatas diperlukan. Tapi siapa yang akan membangunnya, dan bagaimana caranya? Kami belum memiliki proposal konkret untuk itu.