Pápež Lev XIV. vyhlásil, že obavy z umelej inteligencie, ktorá sa vymkne kontrole, nie sú falošné správy a treba ich brať vážne. Ako informuje Euronews, hlava katolíckej cirkvi tak nepriamo protirečí americkému prezidentovi. Do debaty o bezpečnosti AI tým vstupuje hlas, ktorý počúvajú aj ľudia mimo technologického sveta.
Pápež odpovedal novinárom v lietadle na ceste z Francúzska do Vatikánu. Skončil tam prvú apoštolskú cestu do tejto krajiny za 18 rokov. Dostal otázku, čo by mali najmä Spojené štáty a Čína robiť, aby umelá inteligencia nepredstavovala katastrofické riziko pre ľudstvo.
Nie je v panike, no ticho nezostane
Podľa pápeža o probléme treba hovoriť. Nedá sa len sedieť a tváriť sa, že sa nič nestane. Sám v panike nie je a v noci pokojne spí, obavy mnohých expertov na umelú inteligenciu však treba brať vážne. Nemyslí si, že ide o fake news, ako tvrdili niektorí kvôli finančnému či inému prospechu.
Americký prezident Donald Trump naopak obavy z rýchleho vývoja umelej inteligencie opakovane odmieta ako hoax. Snahy o obmedzenia označil za sprisahanie politických oponentov a zdôrazňuje, že USA musia zostať pred Čínou. S vedením firmy Anthropic sa jeho vláda dostala do sporu už skôr.
Varujú aj samotní šéfovia firiem
Na riziká upozorňujú aj šéfovia firiem vrátane Daria Amodeiho z Anthropicu a Sama Altmana z OpenAI. Viaceré firmy vyzvali na spomalenie vývoja, kým bezpečnostné opatrenia nedobehnú technológiu. Amodei varoval, že do šiestich až 12 mesiacov by umelá inteligencia mohla viesť roj agentov, ktorý by ovládol celý internet.
Trump s Amodeim v nedeľu večeral. Podľa Bieleho domu hovorili o obavách Američanov z technológie a o tom, ako udržať náskok USA. Pápež na konci štvordňovej cesty spomenul aj pondelkovú správu, že Nvidia zavádza poistky pre umelú inteligenciu a pripomenul, že firma sa predtým bránila vonkajšej regulácii.
Encyklika o umelej inteligencii
Lev XIV. označil umelú inteligenciu za jednu z najväčších výziev ľudstva už pár dní po zvolení. Venoval jej aj svoju prvú encykliku Magnificent Humanity, v ktorej žiada silnú reguláciu a spomalenie technológie. V máji ju netradične osobne predstavil vo Vatikáne spolu so spoluzakladateľom Anthropicu Christopherom Olahom.
Mohlo by vás zaujímať:
- Šéf Anthropicu vyzýva na spomalenie AI: roj agentov by mohol ovládnuť internet
- Vyhladí umelá inteligencia ľudstvo? Výskumník z Anthropic varuje
- Anthropic nasadzuje Claude Sonnet 5: Múdrejší, bezpečnejší a lacnejší
Predstavenie encykliky s Olahom bolo snahou Vatikánu osloviť vývojárov v otázke ľudskej ceny umelej inteligencie. Pápež v tom chce pokračovať a k stolu pozývať politických lídrov, šéfov firiem, spoločenské organizácie aj združenia, aby sledovali, čo sa už deje a čo môže prísť. Zatvárať pred tým oči podľa neho nie je zodpovedné a či jeho hlas zmení postoj Washingtonu, zatiaľ nie je jasné.
