Nagyon vigyázni kell azzal az innovatív irodai technológiával, amely a mesterséges intelligenciát használja, ugyanis képesek vele lehallgatni a munkahelyi pletykákat és beszélgetéseket.
Alex Bilzerian kutató és mérnök nemrég az X-en tette közzé, hogy az Otter AI nevű platform véletlenül kiszivárogtatott egy bizalmas beszélgetést, amelyet egy kockázati tőkebefektető céggel folytatott a Zoomon keresztül.
Elmondása szerint miután a beszélgetés véget ért, kapott egy e-mailt, melyben a hívás átirata szerepelt. Bilzerian akkor rájött, hogy az intelligens asszisztens még akkor is rögzítette a beszélgetést, amikor Bilzerian már kijelentkezett. Mint mondta, az átirat tartalmazta „a befektetők több órás magánbeszélgetését, melyben bizalmas részleteket vitattak meg az üzletükről” – írja a New York Post.
Bár a befektetők többször is bocsánatot kértek az incidensért, Bilzerian mégis úgy döntött, hogy leállítja az üzletet a céggel.
Lehet, hogy „ésszerű feltételezés” azt gondolni, hogy a mesterséges intelligencia asszisztensek képesek felismerni, amikor a résztvevők kilépnek egy értekezletről, és nem küldik el a fennmaradó átiratot, de Hatim Rahman a Northwestern University Kellogg School of Management docense elmondta, hogy a technológia nem mindig pontos.
Az Otter AI válaszolt Bilzerian X posztjára, megerősítve a vállalat elkötelezettségét a felhasználói adatvédelem iránt, hozzátéve, hogy „megértik az aggodalmakat” és „elkötelezettek az információik privát és biztonságos kezelésében.
„A felhasználóknak teljes körű kontrolljuk van a beszélgetések megosztásainak engedélyei felett, és bármikor megváltoztathatják azt, frissíthetik vagy leállíthatják a beszélgetések megosztásainak engedélyét” – írta a vállalat. „Ebben a konkrét esetben a felhasználók lehetőséget kapnak arra, hogy ne osszanak meg automatikusan átiratokat senkivel, vagy hogy automatikusan csak azokkal osszák meg a beszélgetéseket, akik ugyanazt a Workspace domaint használják” – tette hozzá az Otter AI.
Eközben az OtterPilot, a megbeszéléseket rögzítő és leíró mesterséges intelligens asszisztens, csak a hívás hangját rögzíti, így nem veszi fel azokat a beszélgetéseket, amelyeket egy elnémított résztvevő mond. A hívásban résztvevők értesítést is kapnak arról, hogy a megbeszélést rögzítik, és a virtuális asszisztens a megbeszélés résztvevőjeként jelenik meg.
A vállalat képernyőképeket is gyűjthet a találkozókról – beleértve a résztvevők által feltöltött szöveget vagy egyéb médiát -, amelyeket bizonyos esetekben megoszthat a Vidrát támogató vagy azzal együtt reklámozó harmadik felekkel vagy a bűnüldöző szervekkel. Rob Bezdijan, egy Salt Lake City-i rendezvényszervező vállalkozás tulajdonosa egyszer elvesztett egy üzleti lehetőséget, mert nem volt hajlandó megengedni, hogy a potenciális befektetők rögzítsék a megbeszélést az Otteren. Bezdijan elmondta, óvakodott attól, hogy az üzleti ötleteit rögzítsék, és emiatt bizonyos részleteket kihagyott.
„Szerintem ez nagy probléma, mert a technológia olyan gyorsan terjed, és az emberek még nem igazán fogták fel, milyen tolakodó” — mondta Naomi Brockwell kutató és adatvédelmi aktivista. Brockwell figyelmeztetett, hogy a mesterséges intelligencia növeli a vállalati titkok kiszivárgásának kockázatát, és megnyitja a perek lehetőségét.
Will Andre kiberbiztonsági tanácsadó óva intett a mesterséges intelligencia eszközeinek tájékozatlan, széles körű vállalati alkalmazásától, és hozzátette, hogy a korábbi marketinges munkakörében a vállalat nyilvános szerverein egy olyan felvételre bukkant, amelyen főnökei elbocsátásokról beszéltek. „A vállalatoknak tudatában kell lenniük annak, hogy különböző korú és technikai képességű emberek fogják használni ezeket a termékeket” – tette hozzá Rahman.
A mesterséges intelligenciával működő szoftvereket és eszközöket az utóbbi időben kemény vizsgálatoknak tették ki, mivel egyre több vállalat építi be a technológiát a termékeibe. Az Apple például megalkotta az Apple Intelligence-t, míg a Google nemrég elindította a Gemini-t. A mesterséges intelligencia használata a közösségi médiaplatformokon szintén haragot váltott ki az olyan platformok felhasználói körében, mint a Meta, amely a Meta AI-t nyilvánosan elérhető felhasználói adatok felhasználásával képzi ki.
Korábban a naphire.hu azt is megírta, hogy egy brit bank arra figyelmeztetett, hogy emberek millió válhatnak áldozatává annak az újfajta csalásnak, melyben a mesterséges intelligenciát arra használják a bűnözők, hogy klónozzák mások hangját – írja a Naphire.hu.
Fotó: Pixabay
