yberZprávy.cz

Umělá inteligence

Sebezdokonalující AI už děsí její tvůrce. Zpomalit vývoj chtějí také Altman a Musk

Sobotní výzva šéfa společnosti Anthropic Daria Amodeie ke zpomalení vývoje nejpokročilejší umělé inteligence nezůstala bez odezvy. Během několika hodin se k němu přidali další dva velmi výrazní hráči technologického závodu – šéf OpenAI Sam Altman a Elon Musk, který stojí v čele společnosti xAI. Altman navíc oznámil, že OpenAI zavede jedno z opatření, které Amodei navrhl. Číst dále

Obavy se naplňují. Musíme brzdit, přiznala tvář klíčového AI nástroje, má i prosbu

Generální ředitel americké společnosti Anthropic Dario Amodei vyzval o víkendu firmy zabývající se umělou inteligencí (AI), aby zpomalily tempo, jímž rozšiřují schopnosti svých modelů. Nastínil přitom tříkrokový rámec, jehož cílem je regulovat rychlost vývoje a získat víc času na řízení souvisejících rizik. Krok reaguje na rostoucí obavy ze zneužití umělé inteligence, píše agentura Reuters. Číst dále

AI měla rozhodovat, koho zabít. Rusové vyvíjeli autonomní roj vražedných dronů

Společnost Anthropic popsala případ ruské skupiny, která s pomocí jejího modelu Claude vyvíjela autonomní roj kamikadze dronů. Systém měl být schopen sám vyhodnotit cíl a vydat příkaz k detonaci, aniž by do tohoto rozhodnutí musel zasahovat člověk. Jde o další z bezpečnostních incidentů, které popsala alarmující zpráva firmy Anthropic a na základě které její šéf Dario Amodei vyzval ke zpomalení vývoje pokročilých modelů umělé inteligence. Tento případ je obzvlášť závažný proto, že se jedná o přímé instruování AI k likvidaci člověka. Číst dále

Keňané roky psali domácí úkoly za Američany. Pak přišla umělá inteligence

Teresios Bundi kdysi ztělesňoval to, jak internet dokáže změnit život. V roce 2011 se z farmářské vesnice přestěhoval do hlavního města Nairobi. Jako první z rodiny šel na univerzitu. Tam mu kamarád poradil, ať zkusí novou práci na dálku. Šlo o vypracovávání úkolů za podvádějící vysokoškoláky z jiných zemí. Nejdřív to byl slušný přivýdělek, pak ale přišla umělá inteligence, píše americký deník New York Times. Číst dále

Obavy ze zneužití umělé inteligence sílí. Musíme zpomalit, vyzval přední vývojář

Generální ředitel americké společnosti Anthropic Dario Amodei vyzval firmy zabývající se umělou inteligencí (AI), aby zpomalily tempo, jakým rozšiřují schopnosti svých modelů. Nastínil přitom tříkrokový rámec, jehož cílem je regulovat rychlost vývoje a získat více času na řízení souvisejících rizik. Krok reaguje na rostoucí obavy ze zneužití umělé inteligence, uvedla v sobotu agentura Reuters. Číst dále

Od neviditelných tygrů k neviditelným lidem

Historie kamufláže od přírody až po umělou inteligenci Když se řekne kamufláž, většina lidí si představí vojáka v maskáčové uniformě nebo odstřelovače ukrytého v křoví. Ve skutečnosti je však kamufláž mnohem širším a fascinujícím fenoménem. Je stará stovky milionů let, používají ji rostliny, živočichové, armády, umělci i moderní technologičtí aktivisté. V posledních letech vznikl dokonce…Další Číst dále

Zpomalit hned! Už je to nebezpečné, za rok bude pozdě, bije na poplach šéf Anthropicu

Vývoj umělé inteligence je příliš rychlý a bezpečnostní opatření přestávají stačit. Varuje před tím šéf společnosti Anthropic Dario Amodei. Podle něj se tempo vývoje v posledních měsících výrazně zrychlilo a během příštího roku může umělá inteligence získat schopnosti, které budou představovat podstatně větší riziko než dnes. Amodei proto vyzývá firmy vyvíjející nejpokročilejší modely, aby zpomalily tempo, kterým zvyšují jejich schopnosti. Číst dále