Upoznajte Diem, društvena tražilica na AI pogonu

Na primjer, recimo da želite znati koliko košta zamrzavanje jaja. Upisao biste to pitanje u DIEM, a AI komponenta koristila bi svoju širu internetsku bazu podataka i Diem sadržaj koji je pripisan korisniku kako bi generirao i odgovor jedne rečenice i duži. I dobili biste oboje, zajedno sa svim postovima koji su generirani u zajednici na tu temu, u slučaju da ste bili zainteresirani za pomicanje kroz njih.

Na taj način Diem kombinira lakoću AI s personalizacijom znanja stvarnih žena i ne-binarnih ljudi-vrlo vrsta anegdotskih informacija i životnih iskustava i trač Često defirizirane tražilice zbog pristranosti (više o tome u nastavku). Kombinacija je, kaže Bates, koja informacije o Diemu čine i korisnim i izravno primjenjivim na ljude iz ovih zajednica. "Način na koji smo oduvijek razmišljali je:" Kako možemo stvoriti prostor u kojem biste mogli potražiti kolektivne uvide vaših zajednica?'" ona kaže. "Ako možete sastaviti kolektivno sa svojom zajednicom, ona oblikuje glas, podatke i iskustvo, a on se na kraju osjeća drugačije.”

Pitanje rodne pristranosti na tražilicama i AI platformama

Budući da rodna pristranost prevladava u društvu u cjelini, ona također postoji unutar algoritama za pretraživanje interneta i podstiče rodne informacije. To je isti jaz s kojim se Bates suočio kada je pokušao pronaći primjenjive, relativizirane informacije o tableti za jutarnje u 2018. godini.

Kao dokaz, razmotrite rezultate studije 2022. godine, za koju su istraživači tražili da li Google slike pretražuju u zemljama s višim rezultatima rodno-vjernosti (procijenjeno s indeksom globalnog rodnog praznina) također bi pokazalo rodnu pristranost. Da bi to učinili, obavili su potragu za riječi "osoba" na lokalnom jeziku 37 zemalja u njihovom prvom studiju i 52 zemlje u drugoj. U svim slučajevima, rezultati Google pretraživanja u zemljama s većom razinom nejednakosti u društvenom spolu također su otkrili veću razliku u spolu (što znači da je veći postotak prvih 100 rezultata slike pokazao muškarca u odnosu na ženu).

Otkriveno je da i novi AI botovi održavaju rodnu pristranost. Na primjer, Bloomberg izvijestio je da je računalni znanstvenik chatgpt da je ispljunuo kod koji je rekao da će samo azijski ili bijelci napraviti dobre znanstvenike; Izvršni direktor tvrtke odgovorio je na znanstvenika na Twitteru, potičući korisnike na "palčeve" takve odgovore kako bi pomogao programu da nauči da ne razmnožava pristranost.

Kad sam pitao chatgpt slično pitanje, rečeno je da nije prikladno koristiti nečiji spol ili utrku kako bi utvrdio jesu li izvrsni u profesiji. No, iako se čini da AI trenutno uči biti manje pristran, još uvijek se oslanja na objektivne, suosjećajne korisnike da to treniraju da bude tako. (Dok je Diem -ov AI u velikoj mjeri obučen o stvorenim informacijama za Žene i ne-binarni ljudi, pa stoga nisu podložni istom broju pristranosti protiv žena iz skoka.)

"AI je dobar samo kao podaci o kojima je obučen i budući da svi ljudi imaju pristranost i predrasude, kada se koriste njihovi podaci, ta pristranost i predrasude postaju dio AI."-Nina Vasan, dr. Med., Psihijatar

Ovi nalazi ilustriraju kako pristranosti koje održavamo kao što ljudi prirodno prenose na proizvode koje stvaramo i skupove podataka kojima doprinosimo. "AI je samo dobar kao podaci o kojima je obučen i budući da svi ljudi imaju pristranost i predrasude, kada se koriste njihovi podaci, ta pristranost i predrasude postaju dio AI", kaže psihijatra Nina Vasan, dr. Med. platforme za digitalnu terapiju Real i osnivač i izvršni direktor Brainstorm: Stanford Lab za inovacije za mentalno zdravlje.

Kako Diem želi postati zabavna, informativna tražilica posebno za žene i ne-binarne ljude

S obzirom na DIEM -ove demografske demografije korisnika, Bates kaže da misli o informacijama koje dijele na platformi, a chatbot je generirao kao odgovore na pitanja koja ljudi imaju kad su u "fazi prijatelja" svog života; Ljudi apsorbiraju puno informacija od prijatelja kad su u svojim sredinom dvadesetih i ranih tridesetih, kaže ona. Ideja s Diemom je da steknete perspektive od raznih ljudi svojih godina i rodnog identiteta s kojima možda niste inače komunicirali i da kolektivno razumijevanje koristi svima na platformi.

Budući da se Diem -ov AI hrani informacijama izravno od ljudi ove demografije, to je reprezentativna platforma po dizajnu. Od sada, tisuće žena i ne-binarnih ljudi postavljali su pitanja i podijelili odgovore na Diem o temama koje su im relevantne, posebno u kategorijama osobnog zdravlja, novca i odnosa-tamo je Diem-ov AI najbolje obučen.

Iako još uvijek uči, povlači se iz šireg vlasničkog skupa podataka (slično onome koji pokreće chatgpt) kako bi pronašao informacije o pitanjima o kojima ljudi u zajednici još nisu razgovarali. Točka razlikovanja, međutim, jest da i dalje izbacuje "sažet diem-y odgovor" za ta pitanja, kaže Bates, koristeći stvarne diem convos kako bi obavijestio stil i ton odgovora.

Međutim, budući da je Diem i dalje AI oslanjajući se i na sadržaj koji generira korisnik i taj širi skup podataka, to sigurno nije imun na probleme s kojima se suočavaju druge tražilice i AI chatboti, uključujući lažne, zabludne i, da, čak i pristrani sadržaj. Zauzvrat, postoji gumb unutar aplikacije i na radnoj verziji za prijavu zlouporabe, a platforma je objavila skup smjernica u zajednici-koje promiču stvari poput "ljubaznosti i znatiželje" i "empatičnog angažmana"-kako bi osigurali sigurnost svojih korisnika korisnika i kvaliteta informacija.

Diem se pokreće u vrijeme kada vladini dužnosnici i u Sjedinjenim Državama i Europskoj uniji istražuju načine reguliranja AI, uglavnom zbog gore navedenih briga. U u.S. Konkretno, ured predsjednika Joea Bidena objavio je nacrt AI zakona o pravima u listopadu, dvostranačku skupinu U.S. Senatori predvođeni senatorom Chuck Schumer rade na zakonodavstvu na uspostavljanju zaštitnih ograda oko industrije, a četiri vladine agencije objavile su zajedničku izjavu prošlog mjeseca u kojoj su opisale ovlasti koje su industriju veće, posebno protiv diskriminacije koja je posljedica pristranosti koja je posljedica pristranosti koja je posljedica diskriminacije koja je posljedica diskriminacije koja je posljedica pristranosti koja je posljedica diskriminacije koja je posljedica pristranosti koja proizlazi iz pristranosti koja je posljedica diskriminacije koja proizlazi iz pristranosti koja je posljedica diskriminacije koja proizlazi iz pristranosti koja je posljedica diskriminacije koja je posljedica pristranosti koja proizlazi iz diskriminacije koja proizlazi iz pristranosti koja je posljedica diskriminacije koja je posljedica pristranosti koja je posljedica diskriminacije koja je posljedica pristranosti, posebno protiv diskriminata.

Ali Bates nije odvraćen unošenjem ovog krajolika. Predviđa da će doći do "zanimljivog pomaka u budućnosti Interneta", gdje će ljudi tražiti informacije koje posebno pružaju gdje su u svom životu. Umjesto da, na primjer, zatraži od Googlea za savjet za druženje, nada se da ćete uskoro otići na platformu poput Diema, koja će vam dati odgovore izvedene od ljudi sa sličnim živom iskustvu kao.

"Trenutno postojimo u monopolima, a to utječe na to kako koristimo Internet i što očekujemo od platformi", kaže Bates Bates. Uostalom, ti monopoli često odražavaju pristranost u korist muškaraca. "Mislim da će budućnost interneta ponuditi više nišnih iskustava", kaže ona. I tko će reći niša nužno je mala? Kao što Bates ističe, ljudi koji identificiraju žene čine gotovo jednak udio ljudi na planeti. I sada, postoji divovski grupni chat koji čeka njihov doprinos.

Wellness Intel koji vam treba s BS-om koji se danas ne prijavljujete kako biste imali najnovije (i najveće) dobrobitske vijesti i savjeti koji su odobreni stručnjaci, isporučeni izravno u vašu pristiglu poštu.