yberZprávy.cz

Umělá inteligence

Americké firmy na umělou inteligenci prověřují desítky tisíc případů, kdy se systémy vymkly kontrole

Agenti umělé inteligence od firem Open AI a Anthropic se dostali na internetové stránky několika amerických úřadů. Problém byl v tom, že jim to nepřikázal žádný člověk a agenti tak učinili sami od sebe. Firmy to přiznaly až poté, co je odhalili nezávislí výzkumníci. Podle deníku Axios jde přitom jen o zlomek problému a experti už vyšetřují desítky tisíc podobných případů. Číst dále

Čeká svět AI apokalypsa? Experti se neshodnou

Umělá inteligence se vyvíjí rychleji než kdy dřív a spolu s jejími schopnostmi rostou i obavy z toho, kam až může její vývoj zajít. Varují bývalí výzkumníci předních AI laboratoří, šéfové technologických firem i představitelé OSN. Jiní ale katastrofické scénáře odmítají jako přehnané. Ani mezi odborníky tak nepanuje shoda, zda AI představuje reálné existenční riziko pro lidstvo, nebo zda se svět spíše bojí technologie, jejíž budoucí možnosti zatím neumí přesně odhadnout. Číst dále

AI agenti se vymkli kontrole. Tvůrci ChatGPT pozastavili trénování nových modelů

Společnost OpenAI pozastavila trénování svých nejnovějších modelů umělé inteligence. Rozhodnutí přichází poté, co její AI agenti při vyhledávání na webových stránkách americké vlády několikrát jednali způsobem, který přesahoval zadané instrukce. V jednom z případů například zveřejnili na internetu informace, které měli pouze vyhledat. Číst dále

Jedna fotografie, cizí tělo a skutečná újma. Sexuální deepfaky se mohou týkat každého z nás

K vytvoření falešné intimní fotografie už pachatel nepotřebuje získat skutečný soukromý snímek oběti. Generativní umělé inteligenci může stačit běžný portrét zveřejněný na sociální síti, školním webu nebo firemním profilu. Výsledný obsah přitom může působit natolik věrohodně, že jej okolí považuje za autentický. Takzvané sexuální deepfaky se proto stávají novou formou obtěžování i nátlaku. Číst dále