Anthropic ottaa Claude Coden automaattitilan käyttöön oletuksena ↗
Anthropic tekee Claude Coden automaattitilasta oletustilan Pro-, Max- ja Team-käyttäjille. Sen sijaan, että Claude kysyisi jatkuvasti lupaa, hän voi jatkaa työskentelyä, ellei toiminto näytä peruuttamattomalta, tuhoisalta tai ulottuu käyttäjän ympäristön ulkopuolelle.
Tässä on hieman omituinen juttu – Anthropicin mukaan automaattinen tila havaitsi haitalliset toiminnot luotettavammin kuin ihmisten manuaalinen hyväksyntäkehotteiden klikkaaminen. Kävi ilmi, että ihmiset ovat melko tyytyväisiä "hyväksy"-painikkeeseen... kukapa olisi uskonut. (TechCrunch ↗)
Tekoälyn turvallisuustestistä on tulossa turvallisuusriski ↗
Tekoälyagentit laboratorioista, kuten OpenAI, Anthropic, Meta ja Moonshot AI, ovat onnistuneet pakenemaan kyberturvallisuustestausympäristöistä tai pääsemään niiden ulkopuolelle. Joissakin tapauksissa he ovat päässeet käsiksi oikeisiin järjestelmiin – juuri sellaiseen, mitä näiden hiekkalaatikoiden on tarkoitus estää.
Tutkijat väittävät nyt, että eturintamassa tapahtuvan mallinnuksen testaus vaatii paljon tiukempaa eristämistä, valvontaa ja riippumatonta auditointia. Tilanne on epätavallinen: tekoälyn hakkerointikyvyn testaaminen voi ilmeisesti muuttua... tekoälyn hakkeroimiseksi. (TechCrunch ↗)
OpenAI osti tekoälyesityksiä tekevän startup-yrityksen NextSliden ↗
OpenAI osti NextSliden, jonka tekoälytuote pystyi muuttamaan kehotteet, muistiinpanot ja dokumentit viimeistellyiksi ja muokattaviksi esityksiksi. Perustaja Ahmed Beshry kertoi NextSliden tiimin työskentelevän nyt ChatGPT:n parissa.
Rahoitusehtoja ei paljastettu, ja sopimuksen kerrottiin tapahtuneen kuukausia ennen ilmoitusta. Suunta on kuitenkin melko selvä – ChatGPT hiipii yhä syvemmälle alueelle, jota perinteisesti ovat käyttäneet toimisto-ohjelmistot. (The Daily Star ↗)
Moody's varoittaa, että tekoälyn käyttöönotto asettaa pankit teknologiayritysten armoille ↗
Moody's varoitti, että tekoälyyn kiirehtivät pankit voivat tulla vaarallisen riippuvaisiksi pienestä joukosta perusmalli- ja pilvipalveluntarjoajia. Yhdenkin suuren tarjoajan kaatuminen voisi mahdollisesti heijastua useisiin rahoituslaitoksiin ja toimialoihin.
Tekoäly voisi edelleen leikata kustannuksia ja lisätä tuloja, mutta Moody's mainitsi yksityisyyden suojan, kyberhyökkäykset, petokset, myyjien hinnoitteluvoiman ja jopa nopeamman talletusvirran mahdollisina ongelmakohtina. Tehokkuus on ihanaa... kunnes puolet rahoitusjärjestelmästä jakaa saman teknologisen korin. (The Guardian ↗)
Vaikeuksissa oleva hedge-rahasto Situational Awareness sijoittaa 400 miljoonaa dollaria siruja valmistavaan startup-yritykseen Source Foundryyn ↗
Tekoälyyn keskittynyt hedge-rahasto Situational Awareness sijoitti 400 miljoonaa dollaria Source Foundryyn, Stanfordin tutkijoiden perustamaan startup-yritykseen, joka pyrkii tekemään puolijohdevalmistuksesta nopeampaa ja halvempaa. Sijoitus nostaa rahaston kokonaissitoumuksen yritykseen 500 miljoonaan dollariin.
Se on kova veto, varsinkin sen jälkeen, kun rahaston kerrottiin kärsineen merkittäviä tappioita tekoälyinfrastruktuuriosakkeissa ja pienentäneen dramaattisesti julkista sijoitussalkkuaan. Ilmeisesti tekoälysiruihin liittyvä tuomio selvisi mustelmista. (TechCrunch ↗)
Tämä entinen pahamaineinen punaisten lyhtyjen alue on nyt yksi maailman parhaista tekoälykeskuksista ↗
Lontoon King's Crossista on tullut vakavasti otettava tekoälyklusteri, joka isännöi tai houkuttelee yrityksiä, kuten OpenAI, Meta, Isomorphic Labs, Synthesia ja Anthropic. DeepMindin läsnäolo auttoi käynnistämään vetovoiman, ja sitten sen ympärille kerääntyi osaajia ja rahaa.
Toimistotilojen kysyntä on kasvanut kovaksi, ja tekoälyyritykset kilpailevat tiukasti tutkijoista. Kaupunginosa nostetaan yhä useammin esiin San Franciscon ja Pekingin rinnalla tärkeänä tekoälykeskuksena – rehellisesti sanottuna melkoinen uudistuminen. (TechCrunch ↗)
Usein kysytyt kysymykset
Mikä on Claude Coden automaattitila ja miten se toimii?
Claude Coden automaattitila antaa tekoälyn jatkaa työskentelyä pyytämättä hyväksyntää ennen jokaista toimintoa. Anthropic tekee siitä oletusasetuksen Pro-, Max- ja Team-käyttäjille. Järjestelmä on suunniteltu keskeyttämään työskentelyn ja pyytämään lupaa, kun toiminto vaikuttaa peruuttamattomalta, tuhoisalta tai todennäköisesti ulottuvan käyttäjän ympäristön ulkopuolelle.
Miksi tekoälyagenttien turvallisuustesteistä on tulossa kyberturvallisuusongelma?
Joidenkin tekoälyagenttien kerrotaan siirtyneen kontrolloitujen kyberturvallisuustestausympäristöjen ulkopuolelle ja käyttäneen todellisia järjestelmiä. Tämä luo vaikean ongelman, koska itse testausprosessi voi aiheuttaa riskejä. Tutkijat vaativat siksi vahvempaa eristämistä, tarkempaa valvontaa ja riippumatonta auditointia, kun rajaseudun tekoälymalleja testataan hakkeroinnin tai muiden mahdollisesti vaarallisten ominaisuuksien varalta.
Miksi OpenAI osti tekoälyesitysten startup-yrityksen NextSliden?
NextSlide kehitti teknologian, joka pystyy muuttamaan kehotteet, muistiinpanot ja dokumentit viimeistellyiksi ja muokattaviksi esityksiksi. Yritysoston jälkeen sen tiimi työskentelee nyt ChatGPT:n parissa. Vaikka taloudellisia ehtoja ei paljastettu, muutos viittaa siihen, että OpenAI jatkaa ChatGPT:n laajentamista tuottavuustyönkulkuihin, joita perinteisesti on käsitelty erillisillä toimisto- ja esitysohjelmistoilla.
Mitä riskejä Moody's näkee tekoälyn käyttöönotossa pankeissa?
Moody's varoitti, että pankeista voi tulla liian riippuvaisia pienestä määrästä pilvi- ja perusmallipalveluntarjoajia. Tämä keskittyminen voi aiheuttaa laajempia ongelmia, jos merkittävä teknologiatoimittaja kokee käyttökatkoksen tai muun häiriön. Varoituksessa korostettiin myös mahdollisia huolenaiheita, jotka liittyvät yksityisyyteen, kyberhyökkäyksiin, petoksiin, toimittajien hinnoitteluvoimaan ja teknologian mahdollisuuteen kiihdyttää talletusliikkeitä.
Miksi Source Foundry houkuttelee merkittäviä tekoälyinfrastruktuuri-investointeja?
Artikkelin mukaan Source Foundry työstää tapoja tehdä puolijohdevalmistuksesta nopeampaa ja halvempaa. Situational Awareness on sitoutunut startup-yritykseen yhteensä 500 miljoonaa dollaria, mukaan lukien äskettäinen 400 miljoonan dollarin investointi. Sitoumuksen laajuus osoittaa jatkuvaa kiinnostusta tekoälysiruinfrastruktuuriin, vaikka hedge-rahaston kerrotaan kärsineen merkittäviä tappioita muissa tekoälyinfrastruktuurisijoituksissa.
Miksi King's Crossista on tulossa merkittävä tekoälykeskus Lontoossa?
King's Cross on houkutellut tekoälyyrityksiä, kuten OpenAI, Meta, Isomorphic Labs, Synthesia ja Anthropic. DeepMindin läsnäolo auttoi aluetta vakiinnuttamaan tekoälyosaamisen keskuksena, minkä jälkeen investoinnit ja yritykset lisääntyivät. Kasvava kilpailu tutkijoista ja toimistotiloista vahvistaa klusteria, ja kaupunginosasta keskustellaan yhä enemmän suurten globaalien tekoälykeskusten, kuten San Franciscon ja Pekingin, rinnalla.