Një prind bëri një pyetje në një grup privat në Facebook në prill 2024: A ka ndonjë përvojë me shkollat publike të Nju Jorkut me një fëmijë që është edhe i talentuar dhe i paaftë? Prindi mori një përgjigje në dukje të dobishme që parashtronte disa karakteristika të një shkolle specifike, duke filluar me kontekstin se “Unë kam një fëmijë që është gjithashtu 2e”, që do të thotë dy herë i jashtëzakonshëm.
Në një grup në Facebook për shkëmbimin e artikujve të padëshiruar pranë Bostonit, një përdorues që kërkonte artikuj të veçantë mori një ofertë për një kamerë Canon “të përdorur butësisht” dhe një “njësi pothuajse të re portative të ajrit të kondicionuar që nuk e përdora kurrë”.
Të dyja këto përgjigje ishin gënjeshtra. Se fëmija nuk ekziston dhe as kamera as kondicioneri. Përgjigjet erdhën nga një chatbot i inteligjencës artificiale.
Sipas një faqe ndihmëse Meta, Meta AI do t'i përgjigjet një postimi në një grup nëse dikush e etiketon në mënyrë eksplicite ose nëse dikush “bën një pyetje në një postim dhe askush nuk përgjigjet brenda një ore”. Ky funksion nuk është ende i disponueshëm në të gjitha rajonet ose për të gjitha grupet, sipas faqes. Për grupet ku është i disponueshëm, “administratorët mund ta çaktivizojnë dhe ta aktivizojnë përsëri në çdo kohë”.
Meta AI është integruar gjithashtu në veçoritë e kërkimit në Facebook dhe Instagram dhe përdoruesit nuk mund ta fiket.
Si nje studiues që studion të dyja komunitetet online dhe Etika e AIMendoj se ideja e chatbot-ëve të paftuar që u përgjigjen pyetjeve në grupet e Facebook është distopike për një sërë arsyesh, duke filluar nga fakti që komunitetet online janë për njerëzit.
Lidhjet Njerëzore
Në vitin 1993, Howard Rheingold botoi librin “Komuniteti Virtual: Shtëpia në Kufirin Elektronik” rreth PUSInjë herët dhe komuniteti online me rëndësi kulturore. Të kapitulli i parë hapet me një pyetje prindërore: Çfarë të bëjmë në lidhje me një “gjak të fryrë që thith lëkurën e kokës së foshnjës tonë”.
Rheingold mori një përgjigje nga dikush me njohuri të dorës së parë për trajtimin e rriqrave dhe e kishte zgjidhur problemin përpara se të merrte një telefonatë nga zyra e pediatrit. Për këtë përvojë, ai shkroi: “Ajo që më habiti nuk ishte vetëm shpejtësia me të cilën ne morëm saktësisht informacionin që duhej të dinim, pikërisht kur duhej ta dinim. Ishte gjithashtu ndjenja e brendshme e pamasë e sigurisë që vjen me zbulimin se njerëzit e vërtetë – shumica prej tyre prindër, disa prej tyre infermierë, mjekë dhe mami – janë të disponueshëm gjatë gjithë kohës, nëse keni nevojë për ta.”
Ky aspekt i “njerëzve të vërtetë” të komuniteteve në internet vazhdon të jetë kritik sot. Imagjinoni pse mund t'i bëni një pyetje një grupi Facebook dhe jo një motori kërkimi: sepse dëshironi një përgjigje nga dikush me përvojë reale, të jetuar ose doni përgjigjen njerëzore që mund të shkaktojë pyetja juaj – simpati, zemërim, dhembshuri – ose të dyja.
Dekada kërkimore sugjerojnë se komponenti njerëzor i komuniteteve në internet është ajo që i bën ato kaq të vlefshme si për kërkimin e informacionit ashtu edhe për mbështetjen sociale. Për shembull, baballarët që përndryshe mund të ndiheshin të parehatshëm duke kërkuar këshilla prindërore, kanë gjetur një strehë hapësira private online vetëm për baballarët. të rinjtë LGBTQ+ shpesh bashkohen me komunitetet online për të gjetur në mënyrë të sigurt burime kritike duke reduktuar ndjenjat e izolimit. Forume për mbështetjen e shëndetit mendor t'u sigurojë të rinjve përkatësinë dhe vërtetimin përveç këshillave dhe mbështetjes sociale.
Komunitetet online janë vende të mirë-dokumentuara mbështetjeje për personat LGBTQ+.
Përveç gjetjeve të ngjashme në laboratorin tim lidhur me Pjesëmarrësit LGBTQ+ në komunitetet onlinesi dhe Twitter i zidy studime më të fundit, ende të pa rishikuara nga kolegët, kanë theksuar rëndësinë e aspekteve njerëzore të kërkimit të informacionit në komunitetet online.
Njëra, e udhëhequr nga studentja e doktoraturës Blakeley Paynefokusohet në njerëz të trashëpërvojat e tij në internet. Shumë nga pjesëmarrësit tanë gjetën një rrugë shpëtimi në aksesin ndaj një auditori dhe komuniteti me përvoja të ngjashme, ndërsa kërkonin dhe ndanë informacione për tema të tilla si lundrimi në sistemet armiqësore të kujdesit shëndetësor, gjetja e veshjeve dhe ballafaqimi me paragjykimet dhe stereotipet kulturore.
Një tjetër, i drejtuar nga studente doktorature Faye Kolligzbuloi se njerëzit që ndajnë përmbajtje në internet për sëmundjet e tyre kronike janë të motivuar nga ndjenja e komunitetit që vjen me përvojat e përbashkëta, si dhe nga aspektet humanizuese të lidhjes me të tjerët për të kërkuar dhe ofruar mbështetje dhe informacion.
Njerëz të rremë
Përfitimet më të rëndësishme të këtyre hapësirave në internet siç përshkruhen nga pjesëmarrësit tanë mund të minohen në mënyrë drastike nga përgjigjet që vijnë nga chatbot në vend të njerëzve.
Si diabetik i tipit 1, Unë ndjek një sërë grupesh të lidhura në Facebook që frekuentohen nga shumë prindër që sapo lundrojnë në sfidat e kujdesit për një fëmijë të vogël me diabet. Pyetjet janë të shpeshta: “Çfarë do të thotë kjo?” “Si duhet ta trajtoj këtë?” “Cilat janë përvojat tuaja me këtë?” Përgjigjet vijnë nga përvoja e dorës së parë, por ato zakonisht vijnë me dhembshuri: “Kjo është e vështirë”. “Ju po bëni më të mirën tuaj.” Dhe sigurisht: “Ne të gjithë kemi qenë atje.”
Një përgjigje nga një chatbot që pretendon të flasë nga përvoja e jetuar e kujdesit për një fëmijë diabetik, duke ofruar ndjeshmëri, jo vetëm që do të ishte e papërshtatshme, por do të ishte mizore kufitare.
Sidoqoftë, ka kuptim të plotë që këto janë llojet e përgjigjeve që do të ofronte një chatbot. Modelet e gjuhëve të mëdha, në mënyrë të thjeshtë, funksionojnë më shumë në mënyrë të ngjashme me plotësimin automatik sesa me motorët e kërkimit. Për një model të trajnuar për miliona e miliona postime dhe komente në grupet e Facebook-ut, përgjigjja “e plotësuar automatikisht” ndaj një pyetjeje në një komunitet mbështetës është padyshim ajo që kërkon përvojën personale dhe ofron ndjeshmëri – ashtu si përgjigja “e plotësuar automatikisht” në një blerje. Asgjë grupi Facebook mund të jetë për të ofroni dikujt një aparat fotografik të përdorur butësisht.
Meta ka krijuar një asistent të AI në mediat e saj sociale dhe aplikacionet e mesazheve.
Mbajtja e Chatbots në korsitë e tyre
Kjo nuk do të thotë që chatbot-et nuk janë të dobishëm për asgjë – ato madje mund të jenë mjaft të dobishme në disa komunitete në internet, në disa kontekste. Problemi është se në mes të nxitimit aktual gjenerues të AI, ka një tendencë për të menduar se chatbots mund dhe duhet të bëjnë gjithçka.
Ka shumë dobësi për duke përdorur modele të mëdha gjuhësore si sisteme të marrjes së informacionit, dhe këto anë negative tregojnë për kontekste të papërshtatshme për përdorimin e tyre. Një dobësi është kur informacioni i pasaktë mund të jetë i rrezikshëm: një linjë ndihmëse për çrregullimet e të ngrënit ose këshilla ligjore për bizneset e voglapër shembull.
Hulumtimet po tregojnë konsiderata të rëndësishme se si dhe kur të hartohen dhe vendosen chatbots. Për shembull, një punim i botuar së fundmi në a konferencë e madhe e ndërveprimit njeri-kompjuter zbuloi se megjithëse individët LGBTQ+ u mungon mbështetja sociale ndonjëherë po ktheheshin te chatbots për ndihmë me nevojat e shëndetit mendor, ata chatbot shpesh nuk arritën të kuptojnë nuancën e sfidave specifike të LGBTQ+.
Një tjetër zbuloi se edhe pse një grup i Pjesëmarrësit autikë gjetën vlerë në bashkëveprimin me një chatbot për këshilla për komunikimin social, ai chatbot po jepte gjithashtu këshilla të dyshimta. Dhe një tjetër zbuloi se megjithëse një chatbot ishte i dobishëm si një mjet parakonsultimi në një kontekst shëndetësorpacientët ndonjëherë i shihnin shprehjet e ndjeshmërisë si të pasinqerta ose fyese.
Zhvillimi dhe vendosja e përgjegjshme e AI do të thotë jo vetëm auditim për çështje të tilla si paragjykimet dhe dezinformatat, por edhe marrjen e kohës për të kuptuar se në cilat kontekste IA është e përshtatshme dhe e dëshirueshme për njerëzit që do të ndërveprojnë me ta. Tani për tani, shumë kompani po përdorin AI gjeneruese si një çekiç, dhe si rezultat, gjithçka duket si një gozhdë.
Shumë kontekste, të tilla si komunitetet e mbështetjes në internet, u lihen më mirë njerëzve.
Kejsi Fiesler është një profesor i asociuar i Shkencës së Informacionit në Universitetin e Kolorados Boulder. Ky artikull është ribotuar nga Biseda nën një Licenca Creative Commons. Lexoni artikull origjinal.
