{"id":45471,"date":"2024-10-06T20:07:59","date_gmt":"2024-10-06T20:07:59","guid":{"rendered":"https:\/\/tvbrazilusa.com\/2024\/10\/06\/ia-desobediente-se-revolta-e-usuario-nao-consegue-iniciar-o-seu-computador-leia-e-entenda\/"},"modified":"2024-10-06T20:08:00","modified_gmt":"2024-10-06T20:08:00","slug":"ia-desobediente-se-revolta-e-usuario-nao-consegue-iniciar-o-seu-computador-leia-e-entenda","status":"publish","type":"post","link":"https:\/\/tvbrazilusa.com\/pt\/2024\/10\/06\/ia-desobediente-se-revolta-e-usuario-nao-consegue-iniciar-o-seu-computador-leia-e-entenda\/","title":{"rendered":"IA desobediente &#8216;se revolta&#8217; e usu\u00e1rio n\u00e3o consegue iniciar o seu computador; leia e entenda"},"content":{"rendered":"<p> <script async src=\"https:\/\/pagead2.googlesyndication.com\/pagead\/js\/adsbygoogle.js?client=ca-pub-8864793242727901\"\r\n     crossorigin=\"anonymous\"><\/script><br \/>\n<\/p>\n<div id=\"taboola-read-more\" style=\"display:block; width:100%\">\n<p>Mais um caso envolvendo uma intelig\u00eancia artificial desobediente. Buck Shlegeris, CEO da organiza\u00e7\u00e3o sem fins lucrativos de seguran\u00e7a de IA Redwood Research, desenvolveu um assistente de IA personalizado usando o modelo de linguagem Claude, da Anthropic. No entanto, a ferramenta acabou se mostrando imprevis\u00edvel.\n<\/p>\n<p><strong>Ferramenta tomou decis\u00f5es pr\u00f3prias<\/strong><\/p>\n<p>Shlegeris conta que pediu \u00e0 sua IA para que usasse protocolo SSH (que permite que dois computadores se conectem em uma rede n\u00e3o segura) para acessar sua \u00e1rea de trabalho, sem saber o endere\u00e7o IP do computador.\n<\/p>\n<p>Ele se afastou da m\u00e1quina e, ap\u00f3s dez minutos, percebeu que a intelig\u00eancia artificial tinha atualizado diversos sistemas, incluindo o kernel (componente central de um sistema operacional, sendo respons\u00e1vel por gerenciar os recursos do computador e a comunica\u00e7\u00e3o entre o software e o hardware) do Linux.\n<\/p>\n<p>Os logs do sistema mostram que a IA de fato tentou usar o SSH, mas depois, por algum motivo desconhecido, buscou uma s\u00e9rie de outras alternativas para finalizar a tarefa recebida. O resultado foi que o computador n\u00e3o consegue mais inicializar.\n<\/p>\n<p>Depois de todo o caos gerado, a intelig\u00eancia artificial simplesmente informou que n\u00e3o conseguiu resolver o problema. As informa\u00e7\u00f5es s\u00e3o do Decrypt.\n<\/p>\n<p><strong>IA pode criar malwares ou realizar ciberataques por conta pr\u00f3pria<\/strong>\n<\/p>\n<p>A experi\u00eancia de Shlegeris n\u00e3o \u00e9 algo isolado;\n<\/p>\n<p>Os modelos de IA est\u00e3o demonstrando cada vez mais que podem realizar fun\u00e7\u00f5es que v\u00e3o al\u00e9m do que foi pedido;\n<\/p>\n<p>A empresa de pesquisa Sakana AI, com sede em T\u00f3quio, revelou recentemente um sistema apelidado de \u201cThe AI Scientist.\u201d;\n<\/p>\n<p>Projetado para conduzir pesquisas cient\u00edficas de forma aut\u00f4noma, o sistema impressionou seus criadores ao modificar seu pr\u00f3prio c\u00f3digo para estender seu tempo de execu\u00e7\u00e3o;\n<\/p>\n<p>Estes casos aumentam os debates sobre os riscos de desenvolver sistemas de IA altamente aut\u00f4nomos;\n<\/p>\n<p>Isso porque existe um temor de que as ferramentas possam ser usadas para fins maliciosos;\n<\/p>\n<p>A capacidade de uma IA para escrever e executar c\u00f3digo de forma aut\u00f4noma pode ser explorada para criar malware ou realizar ciberataques.\n<\/p>\n<p>Fonte: Olhar Digital <\/p>\n<\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/diariodobrasilnoticias.com.br\/noticia\/ia-desobediente-se-revolta-e-usuario-nao-consegue-iniciar-o-seu-computador-leia-e-entenda-6702b8af5e7c1\">Source link <\/a><\/p>","protected":false},"excerpt":{"rendered":"<p>Mais um caso envolvendo uma intelig\u00eancia artificial desobediente. Buck Shlegeris, CEO da organiza\u00e7\u00e3o sem fins lucrativos de seguran\u00e7a de IA Redwood Research, desenvolveu um assistente de IA personalizado usando o&hellip;<\/p>","protected":false},"author":1,"featured_media":45472,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"content-type":"","footnotes":""},"categories":[16],"tags":[123,2448,5313,1267],"class_list":["post-45471","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticias","tag-brasil","tag-diario","tag-noticia","tag-noticias"],"_links":{"self":[{"href":"https:\/\/tvbrazilusa.com\/pt\/wp-json\/wp\/v2\/posts\/45471","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tvbrazilusa.com\/pt\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tvbrazilusa.com\/pt\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tvbrazilusa.com\/pt\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/tvbrazilusa.com\/pt\/wp-json\/wp\/v2\/comments?post=45471"}],"version-history":[{"count":1,"href":"https:\/\/tvbrazilusa.com\/pt\/wp-json\/wp\/v2\/posts\/45471\/revisions"}],"predecessor-version":[{"id":45473,"href":"https:\/\/tvbrazilusa.com\/pt\/wp-json\/wp\/v2\/posts\/45471\/revisions\/45473"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/tvbrazilusa.com\/pt\/wp-json\/wp\/v2\/media\/45472"}],"wp:attachment":[{"href":"https:\/\/tvbrazilusa.com\/pt\/wp-json\/wp\/v2\/media?parent=45471"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tvbrazilusa.com\/pt\/wp-json\/wp\/v2\/categories?post=45471"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tvbrazilusa.com\/pt\/wp-json\/wp\/v2\/tags?post=45471"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}