AI haliucinacijos tampa pavojingesnės, nes modeliai vis labiau pasitiki paviršiaus informacija ir priima kritinius sprendimus.
Mes visi turime tą žinomą draugą, kuris negali pripažinti, kai kažko nežino, arba kreipiasi į tai, kad teiktų nemandagius patarimus, remdamasis tuo, ką jie skaitė internete. AI modelių haliucinacijos yra panašios į tą draugą, tačiau šis gali būti atsakingas už jūsų vėžio gydymo plano sudarymą.
Štai kur „Themis Ai“ patenka į paveikslą. Šis MIT „Spinout“ sugebėjo pasiekti tai, kas teoriškai atrodo nesudėtinga, tačiau iš tikrųjų yra gana sudėtinga, mokanti AI sistemas pasakyti: „Aš nesu tikras dėl to“.
PG sistemos paprastai pasireiškia per dideliu pasitikėjimu. „Themis“ „Capsa“ platforma veikia kaip AI realybės patikrinimas, padedantis modeliams atpažinti, kai jie įsitraukia į spėliones, o ne tikrumą.
2021 m. Įkūrė MIT profesorė Daniela Rus, kartu su buvusiais tyrimų kolegomis Alexanderiu Amini ir Elaheh Ahmadi, Themis AI sukūrė platformą, kuri gali integruoti su praktiškai bet kokia AI sistema, kad būtų galima pažymėti netikrumo momentus, kol jie sukelia klaidų.
CAPSA iš esmės moko AI aptikti, kaip ji apdoroja informaciją, kuri gali parodyti, kad ji yra supainiota, šališka ar dirbanti su neišsamiais duomenimis, kurie gali sukelti haliucinacijas.
Nuo pat įkūrimo „Themis“ teigia, kad ji padėjo telekomunikacijų įmonėms išvengti brangios tinklo planavimo klaidų, padedama naftos ir dujų firmos suvokti sudėtingus seisminius duomenis ir paskelbė tyrimus apie pokalbių programas, kurios užtikrintai nesudaro reikalų.
Daugelis žmonių nežino, kaip dažnai AI sistemos tiesiog daro geriausią spėjimą. Kadangi šios sistemos atlieka vis kritiškesnes užduotis, šie spėlionės gali turėti rimtų padarinių. „Themis AI“ programinė įranga prideda trūkstamo savimonės sluoksnį.
„Themis“ kelionė link AI haliucinacijų kovos
Kelionė į „Themis AI“ prasidėjo prieš metus profesoriaus Ruso MIT laboratorijoje, kur komanda tiria pagrindinę problemą: kaip jūs žinote mašiną apie savo apribojimus?
2018 m. „Toyota“ finansavo patikimos AI tyrimus savarankiškai važiuojančioms transporto priemonėms-sektoriui, kuriame klaidos gali būti mirtinos. Statymai yra nepaprastai dideli, kai autonominės transporto priemonės turi tiksliai nustatyti pėsčiųjų ir kitų kelio pavojų.
Jų proveržis įvyko, kai jie sukūrė algoritmą, kuris galėtų pastebėti rasinę ir lyčių šališkumą veido atpažinimo sistemose. Užuot tik nustatydama problemą, jų sistema iš tikrųjų ištaisė ją iš naujo subalansuodama mokymo duomenis – iš esmės mokant AI ištaisyti savo išankstinius nusistatymus.
Iki 2021 m. Jie pademonstravo, kaip šis požiūris galėtų pakeisti narkotikų atradimą. PG sistemos galėtų įvertinti galimus vaistus, tačiau, be abejo, vėliava, kai jų prognozės buvo pagrįstos tvirtais įrodymais, palyginti su išsilavinusiais spėlionėmis ar visomis haliucinacijomis. Farmacijos pramonė pripažino galimą pinigų ir laiko taupymą, sutelkdama dėmesį tik į kandidatus į narkotikus, kuriais buvo pasitikinti AI.
Kitas technologijos pranašumas yra įrenginiams, turintiems ribotą skaičiavimo galią. „Edge“ įrenginiai naudoja mažesnius modelius, kurie negali atitikti didžiulių modelių, veikiančių serveryje, tikslumu, tačiau, naudojant „Themis“ technologiją, šie įrenginiai bus kur kas labiau pajėgūs atlikti daugumą užduočių vietoje, ir paprašys pagalbos iš didžiųjų serverių, kai jie susidurs su kažkuo sudėtinga.
PG turi didžiulį potencialą pagerinti mūsų gyvenimą, tačiau šis potencialas kyla iš tikros rizikos. Kai AI sistemos tampa giliau integruotos į kritinę infrastruktūrą ir sprendimų priėmimą, galimybė pripažinti netikrumą, sukeliantį haliucinacijas, gali pasirodyti kaip jų žmogiškiausia ir vertingiausia kokybė. „Themis AI“ įsitikina, kad jie išmoks šį svarbų įgūdį.
Taip pat žiūrėkite: Diabeto valdymas: IBM ir Roche naudoja AI, norėdami prognozuoti cukraus kiekį kraujyje
Norite sužinoti daugiau apie AI ir didelius duomenis iš pramonės lyderių? Peržiūrėkite AI ir „Big Data Expo“, vykstančią Amsterdame, Kalifornijoje ir Londone. Išsamus renginys yra kartu su kitais pirmaujančiais renginiais, įskaitant intelektualią automatizavimo konferenciją, „BlockX“, „Skaitmeninės transformacijos savaitės“ ir „Cyber Security & Cloud Expo“.
Naršykite kitus būsimus „Enterprise Technology“ renginius ir internetinius seminarus, kuriuos maitina „TechForge“ čia.
