OpenAI, DeepMind e Anthropic concedem ao Reino Unido acesso a modelos de IA para pesquisa de segurança

acesso a modelos de IA para pesquisa de segurança

Em um importante anúncio que sinaliza um compromisso com a segurança e a regulamentação da inteligência artificial (IA), três gigantes da tecnologia – OpenAI, Google DeepMind e Anthropic – concordaram em fornecer ao Reino Unido acesso a modelos de IA para pesquisa de segurança ou prioritário a seus modelos de IA para apoiar a pesquisa em avaliação e segurança. Essa notícia chega logo após o anúncio do governo do Reino Unido de que planeja sediar uma cúpula global de segurança de IA ainda este ano.

A segurança da IA tem sido um tópico de conversão acelerada para o primeiro-ministro britânico, Rishi Sunak, especialmente após intervenções de gigantes da IA alertando sobre os riscos existenciais que a tecnologia pode representar se não for adequadamente regulamentada.

“Vamos realizar pesquisas de ponta sobre segurança de IA aqui no Reino Unido”, prometeu Sunak. “Com 100 milhões de libras para nossa força-tarefa especializada, estamos dedicando mais financiamento à segurança da IA do que qualquer outro governo. Essa força-tarefa de segurança de IA estará focada em modelos fundamentais de IA”, acrescentou o governo.

O primeiro-ministro britânico também reiterou seu anúncio anterior sobre a próxima cúpula de segurança de IA, buscando comparar o esforço às conferências COP Climate, que visam alcançar um consenso global sobre o combate às mudanças climáticas.

No entanto, o envolvimento próximo dos gigantes da tecnologia de IA na pesquisa financiada publicamente sobre a segurança de suas tecnologias comerciais sugere que eles terão pelo menos a oportunidade de enquadrar como a segurança da IA é examinada e quais componentes, tópicos e temas são priorizados. Isso também significa que eles podem influenciar que tipo de pesquisa ocorre, já que isso pode depender de quanto acesso eles fornecem.

Enquanto o governo do Reino Unido pode estar tomando medidas proativas para abordar as questões de segurança de IA, éticos da IA alertam há muito tempo que os temores sensacionalistas sobre os riscos que as IA “superinteligentes” podem representar para os humanos.

Fonte: techcrunch.com

 

O que é a OpenAI

OpenAI é uma organização de pesquisa em inteligência artificial (IA) que promove e desenvolve IA amigável de forma a beneficiar a humanidade como um todo. Co-fundada por Elon Musk, Sam Altman e uma equipe de outros em 2015, a OpenAI tem a missão de garantir que a IA de nível humano geral (AGI) beneficie a todos. A OpenAI adota uma abordagem orientada para a segurança e está comprometida em fazer a pesquisa necessária para tornar a AGI segura, além de incentivar a comunidade de IA a adotar esses padrões de segurança.

 

O que é a. DeepMind

DeepMind, uma subsidiária da Alphabet Inc., é uma empresa de inteligência artificial focada na construção de máquinas que possam aprender por si mesmas. Fundada em Londres em 2010 por Demis Hassabis, Mustafa Suleyman e Shane Legg, a DeepMind foi adquirida pelo Google em 2014. A empresa é mais conhecida por desenvolver AlphaGo, um sistema de IA que derrotou um campeão mundial de Go, um complexo jogo de tabuleiro. A DeepMind também trabalha em uma variedade de outras áreas de pesquisa de IA, incluindo aprendizado de máquina, neurociência, ética de IA e muito mais.

 

O que é a Anthropic

Anthropic é uma empresa de pesquisa de inteligência artificial que visa tornar a inteligência artificial em larga escala compreensível, alinhada e controlada por humanos. Fundada por Dario Amodei, ex-diretor de pesquisa de segurança de IA da OpenAI, e Daniela Amodei, uma cientista de dados com experiência em biologia computacional, a Anthropic busca criar uma IA segura e benéfica para a humanidade. A empresa acredita na importância da transparência, responsabilidade e cooperação na pesquisa de IA.

 

Sobre Ética em Inteligência Artificial

A inteligência artificial (IA) está se tornando cada vez mais prevalente em nosso mundo, impulsionando inovações em setores que vão desde saúde e educação até finanças e entretenimento. No entanto, à medida que a tecnologia se torna mais sofisticada, a ética em IA tem se tornado um assunto de crescente importância. A ética em IA refere-se a um conjunto de valores, princípios e técnicas que empregam amplamente os padrões aceitos de certo e errado para orientar o comportamento moral em relação à IA.

 

Por que a Ética em IA é Importante?

À medida que a IA se torna mais integrada em nossas vidas, é crucial considerar as implicações éticas. As questões variam desde a equidade e transparência no desenvolvimento de algoritmos até a privacidade dos dados e a automação do trabalho. Além disso, existem preocupações significativas sobre a potencial manipulação da IA, o que pode levar a consequências indesejadas se não for adequadamente gerenciado.

 

Princípios Fundamentais da Ética em IA

Existem vários princípios fundamentais que estão no cerne da ética em IA:

1. Transparência: É importante que os sistemas de IA sejam transparentes e compreensíveis. Os usuários devem ter uma compreensão clara de como a IA toma decisões e de que maneira seus dados são usados.

2. Justiça: Os sistemas de IA devem ser projetados para evitar viés e discriminação. Isso inclui garantir que a IA não perpetue preconceitos ou injustiças sociais existentes.

3. Responsabilidade: Aqueles que projetam, desenvolvem e implantam IA devem ser responsáveis por garantir que a IA seja usada de maneira ética e justa. Isso inclui considerar as consequências potenciais da IA e tomar medidas para mitigar os danos.

4. Privacidade: A IA deve respeitar a privacidade dos indivíduos e proteger seus dados pessoais. Os usuários devem ter controle sobre seus próprios dados, incluindo a capacidade de optar por não participar e de ter seus dados excluídos.

 

Conclusão

À medida que a IA continua a se desenvolver e se tornar mais integrada em nossas vidas, a importância da ética na IA só aumentará. É crucial que indivíduos, empresas e governos trabalhem juntos para garantir que a IA seja usada de maneira responsável e ética, para o benefício de todos.

Sumário

Janderson de Sales

Janderson de Sales

Sou um Especialista WordPress, com formação em Tecnologia da Informação. Trabalho com produção de conteúdo para blogs, desenvolvimento e manutenção de sites WordPress, e sou um entusiasta de tecnologias de inteligência artificial. Tenho conhecimento em produção de imagens de alta qualidade em plataformas de IAs generativas de imagens e possuo habilidades em SEO e desenvolvimento web. Estou comprometido em oferecer soluções inovadoras e eficazes para atender às necessidades do mercado digital.
0 0 votes
Article Rating
Subscribe
Notify of
guest
0 Comentários
Feedbacks embutidos
Ver todos os comentários