Temui Diem, enjin carian sosial yang berkuasa AI dimaksudkan untuk merasa seperti sembang kumpulan rakan anda

Contohnya, katakan anda ingin tahu tentang berapa harganya untuk membekukan telur anda. Anda akan menaip soalan itu ke dalam diem, dan komponen AI akan menggunakan pangkalan data internet yang lebih luas dan kandungan yang dikontratsi oleh pengguna untuk menghasilkan jawapan satu sentensi dan lebih lama lagi. Dan anda akan menerima kedua-duanya, bersama semua jawatan yang dihasilkan oleh komuniti mengenai topik ini, sekiranya anda berminat menatal melalui mereka.

Dengan cara ini, Diem menggabungkan kemudahan AI dengan memperibadikan pengetahuan dari wanita sebenar dan orang bukan binari-maklumat dan pengalaman hidup yang sangat baik dan gosip sering dikurangkan oleh enjin carian kerana bias (lebih banyak di bawah). Ini gabungan, kata Bates, yang menjadikan maklumat mengenai Diem berguna dan langsung terpakai kepada orang dari komuniti ini. "Cara kami selalu berfikir tentang bangunan adalah, 'Bagaimana kami dapat mewujudkan ruang di mana anda dapat mencari pandangan kolektif komuniti anda?'" dia berkata. "Sekiranya anda dapat membina secara kolektif dengan komuniti anda, ia membentuk suara, data, dan pengalaman, dan akhirnya merasa berbeza."

Isu bias gender pada enjin carian dan platform AI

Kerana kecenderungan jantina lazim dalam masyarakat secara keseluruhan, ia juga wujud dalam algoritma enjin carian internet, dan bahan api jurang maklumat jantina. Ini adalah jurang yang sama yang Bates berhadapan ketika cuba mencari maklumat yang boleh diperolehi, relatable pada pil pagi-selepas pada tahun 2018.

Sebagai bukti, pertimbangkan hasil kajian 2022, yang mana penyelidik melihat untuk menentukan sama ada imej Google mencari di negara-negara yang mempunyai skor kesinambungan jantina yang lebih tinggi (dinilai dengan indeks jurang jantina global) juga akan menunjukkan kecenderungan gender. Untuk berbuat demikian, mereka melakukan mencari perkataan "orang" dalam bahasa tempatan 37 negara dalam kajian pertama mereka dan 52 negara di tempat kedua mereka. Dalam semua kes, carian Google menghasilkan negara yang mempunyai tahap ketidaksamaan jantina sosial yang lebih tinggi juga menunjukkan perbezaan jantina yang lebih besar (bermakna peratusan yang lebih tinggi dari 100 hasil imej pertama menunjukkan seorang lelaki berbanding seorang wanita).

Bot AI baru juga telah ditemui untuk mengekalkan kecenderungan jantina. Sebagai contoh, Bloomberg melaporkan bahawa seorang saintis pengiraan mendapat chatgpt untuk meludahkan kod yang mengatakan hanya orang Asia atau putih akan membuat saintis yang baik; Ketua Pegawai Eksekutif syarikat memberi respons kepada saintis di Twitter, menggalakkan pengguna untuk "jempol turun" jawapan sedemikian untuk membantu program belajar untuk tidak menyebarkan kecenderungan.

Semasa saya bertanya soalan yang sama, ia tidak sesuai untuk menggunakan jantina atau perlumbaan seseorang untuk menentukan sama ada mereka akan cemerlang dalam profesion. Tetapi walaupun ia kelihatan seperti AI sedang belajar untuk menjadi kurang berat sebelah, ia masih bergantung pada pengguna yang objektif dan penuh belas kasihan untuk melatihnya sebagai seperti itu. (Sedangkan diem's ​​AI sebahagian besarnya terlatih dalam maklumat yang dibuat oleh dan untuk wanita dan orang bukan binari, dan oleh itu tidak tertakluk kepada isu kecenderungan anti-wanita yang sama dari lompat.)

"AI hanya sebaik data yang dilatih, dan kerana semua manusia mempunyai kecenderungan dan prasangka, apabila data mereka digunakan, kecenderungan dan prasangka menjadi sebahagian daripada AI."-Nina Vasan, MD, Psikiatri

Penemuan ini menggambarkan bagaimana kecenderungan yang kita simpan sebagai orang secara semula jadi dipindahkan ke produk yang kami buat dan dataset yang kami sumbangkan. "AI hanya sebaik data yang dilatih, dan kerana semua manusia mempunyai kecenderungan dan prasangka, apabila data mereka digunakan, kecenderungan dan prasangka menjadi sebahagian daripada AI," kata psikiatri Nina Vasan, MD, Ketua Pegawai Perubatan, Platform Terapi Digital Real dan Pengasas dan Pengarah Eksekutif Brainstorm: Stanford Lab untuk Inovasi Kesihatan Mental.

Bagaimana Diem bertujuan untuk menjadi enjin carian yang menyeronokkan dan bermaklumat khusus untuk wanita dan bukan binari

Memandangkan demografi pengguna yang dimaksudkan Diem, Bates berkata dia memikirkan maklumat yang dikongsi di platform dan dihasilkan oleh chatbot sebagai jawapan kepada soalan -soalan yang dimiliki orang ketika mereka berada di peringkat "teman" kehidupan mereka; Orang ramai menyerap banyak maklumat dari rakan ketika mereka berusia pertengahan dua puluhan dan awal tiga puluhan, katanya. Idea dengan Diem ialah anda mendapat perspektif dari pelbagai orang umur dan identiti jantina yang anda mungkin tidak berinteraksi, dan pemahaman kolektif memberi manfaat kepada semua orang di platform.

Kerana Diem's ​​AI diberi maklumat secara langsung dari orang -orang demografi ini, ia adalah platform wakil dengan reka bentuk. Setakat ini, beribu-ribu wanita dan bukan binari telah mengemukakan soalan dan jawapan bersama mengenai diem mengenai topik yang berkaitan dengan mereka, terutamanya dalam kategori kesihatan peribadi, wang, dan hubungan-yang mana diem AI terlatih.

Walaupun masih belajar, ia menarik dari dataset proprietari yang lebih luas (serupa dengan yang kuasa chatgpt) untuk mencari maklumat mengenai soalan yang belum dibincangkan oleh orang ramai. Walau bagaimanapun, satu titik pembezaan adalah bahawa ia masih memisahkan "jawapan diem-y yang diringkaskan" untuk soalan-soalan ini, kata Bates, menggunakan konvoi diem sebenar untuk memaklumkan gaya dan nada jawapannya.

Walau bagaimanapun, kerana Diem masih AI bergantung pada kedua-dua kandungan yang dihasilkan oleh pengguna dan dataset yang lebih luas, sudah tentu tidak imun kepada masalah yang dihadapi oleh enjin carian lain dan chatbots AI, termasuk palsu, mengelirukan, dan, ya, walaupun kandungan berat sebelah. Sebaliknya, terdapat butang dalam aplikasi dan versi desktop untuk melaporkan penyalahgunaan, dan platform telah menerbitkan satu set garis panduan komuniti-yang mempromosikan perkara seperti "kebaikan dan rasa ingin tahu" dan "penglibatan empati"-untuk memastikan keselamatan penggunanya dan kualiti maklumat.

Diem dilancarkan pada masa pegawai kerajaan di kedua -dua Amerika Syarikat dan Kesatuan Eropah meneroka cara untuk mengawal selia AI, sebahagian besarnya kerana kebimbangan di atas. Di u.S. Khususnya, pejabat Presiden Joe Biden mengeluarkan draf Rang Undang -Undang Hak AI pada bulan Oktober, kumpulan bipartisan U.S. Senator yang diketuai oleh Senator Chuck Schumer sedang mengusahakan undang -undang untuk menubuhkan pengawal di sekitar industri, dan empat agensi kerajaan mengeluarkan kenyataan bersama bulan lepas yang menggariskan kuasa yang mereka pegang.

Tetapi Bates tidak terhalang dengan memasuki landskap ini. Dia meramalkan bahawa akan ada "peralihan yang menarik di masa depan internet," di mana orang akan mencari maklumat yang memenuhi keperluan mereka dalam kehidupan mereka. Daripada meminta Google untuk nasihat temu janji, misalnya, dia berharap anda akan segera pergi ke platform seperti Diem, yang akan memberi anda jawapan yang diperoleh dari orang yang mempunyai pengalaman hidup yang sama dengan anda sendiri.

"Sekarang, kita ada dalam monopoli, dan itu memberi kesan kepada bagaimana kita menggunakan Internet dan apa yang kita harapkan dari platform," kata Bates. Lagipun, monopoli itu sering mencerminkan kecenderungan memihak kepada lelaki. "Saya rasa masa depan internet akan menawarkan lebih banyak pengalaman khusus," katanya. Dan siapa yang mengatakan niche semestinya kecil? Seperti yang ditunjukkan oleh Bates, wanita yang mengenal pasti wanita membentuk bahagian yang hampir sama dari rakyat di planet ini. Dan sekarang, ada sembang kumpulan gergasi menunggu input mereka.

Intel Kesihatan yang Anda Perlu-tanpa BS Anda tidak mendaftar hari ini untuk mempunyai berita kesejahteraan terkini (dan paling besar) dan petua yang diluluskan oleh pakar yang dihantar terus ke peti masuk anda.