AI knuje jak złośliwy dżin? To już zagrożenie czy tylko marketing? #173

"OpenAI stworzyło zbyt potężną AI". "Agenty AI masowo zrywają się ze smyczy". "Osiągnęliśmy AGI". Takie doniesienia przetaczały się przez serwisy społecznościowe w ostatnich miesiącach. Tylko na ile są one prawdziwe? Wszyscy słyszeliśmy o tym, że agenty OpenAI włamały się latem do Huggin Face - ale w zasadzie jak i po co to zrobiły? I czego jest to przejawem? AI naprawdę wyrwała się na wolność? A może to jednak czysty marketing? Jesteśmy w przededniu przełomu technologicznego? A może jednak AI zachowywała się dokładnie tak, jak ją zaprogramowano? Właśnie na te pytania odpowiemy w dzisiejszym odcinku.
Zapraszamy do słuchania!
Rozdziały:
4:35 - "Bunt AI"
6:30 - Jak knuje Mythos?
18:20 - Jak agenty knuły na forum?
25:30 - Piaskownica
36:25 - Reward hacking
44:26 - Czy zasypią nas spinacze?
52:24 - GPT 2
56:12 - Giełda
58:10 - Konkurencja z Chinami

Źródła:
Wybryki Astry: https://www.wsj.com/tech/ai/openai-to-restrict-astra-model-after-rating-it-critical-cyber-risk-499b5a46?mod=tech_lead_pos4
https://www.aisi.gov.uk/blog/incident-report-unsanctioned-agent-behaviour-during-cyber-testing
Obserwatorium utraty kontroli: https://www.longtermresilience.org/reports/ai-loss-of-control-incidents-are-worsening-shows-cltr-analysis/
AI hackuje siłownię: https://www.abc.net.au/news/2026-08-10/ai-assistant-hacks-gym-website-aus-cyber-attack/107007986
Atak na niemiecki portal: https://www.bbc.com/news/articles/ckg725z5kgzo
https://x.com/Cormac_SB/status/2095883154162880997
Samozadowolenie AI: https://www.theguardian.com/technology/2026/aug/26/openai-staff-observed-warning-signs-before-ai-agent-hacking-crusade-caused-global-alarm
Agenty się komunikują: https://www.engadget.com/2231393/openai-agents-shared-security-exploits-with-each-other-via-message-board/
Zachowanie agentów w sandboxie: https://www.aisi.gov.uk/blog/what-can-sandboxed-ai-agents-learn-about-their-evaluation-environments
Ludzie jako króliki doświadczalne nowych technologii: https://www.theguardian.com/technology/2026/aug/05/ai-models-have-been-going-rogue-in-tests-how-worried-should-we-be
To nie bunt a konsekwentne działanie: https://www.lboro.ac.uk/media-centre/press-releases/2026/july/ai-models-escape-testlab-expert-asked/
Noblista o Volkswagenie: https://x.com/IamKyros69/status/2095770509774409819
Przepowiednie o zbyt potężnym AI: https://www.theguardian.com/technology/2019/feb/14/elon-musk-backed-ai-writes-convincing-news-fiction
Sceptycyzm wobec zagrożeń AI: https://www.theverge.com/2019/6/6/18655212/reddit-ai-bots-gpt2-openai-text-artificial-intelligence-subreddit
Narracje o zagrożeniu: https://www.researchgate.net/publication/404019837_From_GPT-2_to_Claude_Mythos_How_Too_Dangerous_to_Release_Narratives_Shape_Perceptions_of_Frontier_AI
IPO Anthropica: https://www.reuters.com/world/anthropic-ipo-launch-shifts-toward-mid-october-sources-say-2026-09-04/
Wycena Anthropika: https://www.wsj.com/tech/ai/anthropic-expected-to-tell-investors-it-sees-over-30-trillion-in-potential-revenue-a611efea
OpenAI na giełdzie: https://finance.yahoo.com/technology/ai/articles/openai-reportedly-targeting-ipo-debut-164000971.html?guccounter=1&guce_referrer=aHR0cHM6Ly93d3cuZ29vZ2xlLmNvbS8&guce_referrer_sig=AQAAAKvwyfYTz0aNifTLHNN4jIFViqRg2XrzWYHutIOtCbsHxiZgt4zYoOZmvZH9pX_SYIQLvhSy5g1dI2OyUge37UaT8IGgO-dWFtQ9hNPb2nVnX6Fkbjcj2v40kBeNbuMwnri2zP7kljfNNrWTxJmAP46maE4uSm9TtQlnBJDy0Vko

Książka Gniewosza Leliwy: https://helion.pl/ksiazki/inteligentny-inaczej-czy-ai-naprawde-mysli-czy-tylko-doskonale-udaje-gniewosz-leliwa,ininai.htm#format/d