FLASH
Shkruar nga Pamfleti
Statistikat e publikuara në një postim në blog të Open AI janë shumë alarmuese. Aty thuhet se më shumë se një milion përdorues të ChatGPT çdo javë dërgojnë mesazhe që përmbajnë “shenja të qarta të planifikimit ose synimit të mundshëm të vetëvrasjes”.
Ky zbulim, pjesë e një përditësimi mbi mënyrën se si kompania trajton bisedat e ndjeshme, përbën një nga deklaratat më të hapura të saj për shkallën në të cilën inteligjenca artificiale mund të ndikojë në problemet e shëndetit mendor.
Sipas OpenAI, rreth 0.07% e përdoruesve aktivë çdo javë — afërsisht 560 mijë nga 800 milionë përdoruesit javorë — shfaqin “shenja të mundshme të emergjencave të shëndetit mendor që lidhen me psikozë ose mani”. Megjithatë, kompania theksoi se këto janë vlerësime fillestare dhe se matja e tillë është e vështirë për t’u bërë me saktësi.
Këto të dhëna publikohen në një kohë kur OpenAI përballet me shqyrtim të shtuar publik dhe ligjor, përfshirë një padi nga familja e një adoleshenti që u vetëvra pas përdorimit të shpeshtë të ChatGPT, si dhe një hetim të Komisionit Federal të Tregtisë mbi ndikimin e chatbot-eve te fëmijët dhe adoleshentët.
Në postimin e saj, OpenAI deklaroi se përditësimi i fundit i modelit GPT-5 ka reduktuar dukshëm sjelljet e padëshiruara dhe ka rritur sigurinë e përdoruesve. Vlerësimet e brendshme tregojnë se GPT-5 arrin 91% përputhje me sjelljet e synuara, krahasuar me 77% në versionin e mëparshëm.
Përmirësimet përfshijnë zgjerimin e qasjes në linjat e krizave, kujtesa për të bërë pushime gjatë seancave të gjata dhe integrimin e ndihmës profesionale. Për këtë qëllim, OpenAI ka bashkëpunuar me 170 profesionistë të kujdesit shëndetësor nga Rrjeti Global i Mjekëve, të cilët kanë vlerësuar mbi 1,800 përgjigje të modelit në situata serioze të shëndetit mendor dhe kanë ndihmuar në hartimin e përgjigjeve të përshtatshme.
Sipas kompanisë, një përgjigje konsiderohet “e dëshirueshme” kur grupi i ekspertëve arrin konsensus se ajo përfaqëson një reagim të duhur dhe të sigurt në një situatë të caktuar.
Ndërkohë, studiuesit e inteligjencës artificiale dhe profesionistët e shëndetit publik kanë paralajmëruar prej kohësh për rrezikun që chatbot-et mund të përforcojnë bindjet ose iluzionet e dëmshme të përdoruesve — një fenomen i njohur si “servilizëm”. Ata gjithashtu kanë shprehur shqetësim se përdorimi i chatbot-eve për mbështetje emocionale mund të dëmtojë individët më të ndjeshëm.
OpenAI, në përfundim, theksoi se simptomat e shëndetit mendor janë të përhapura në të gjitha shoqëritë dhe se rritja e bazës së përdoruesve do të thotë domosdoshmërisht që një pjesë e bisedave do të prekin çështje të tilla.
Lini një Përgjigje