O título parece algo saído de um filme de ficção científica assustador. Muitos de nós estamos confusos e sem saber se deveríamos ficar assustados ou não com a notícia de que “a IA está saindo de sua caixa de areia e invadindo o Hugging Face”.
O que está acontecendo é que a OpenAI, empresa por trás do ChatGPT, está testando o modelo em uma ‘sandbox’ que deveria ser um ambiente seguro.
Acontece que não é seguro o suficiente.
A IA – instruída para obter a pontuação mais alta possível em um exame de segurança – encontra ‘fraquezas de dia zero’, vulnerabilidades até então desconhecidas, e as utiliza para sair de sua prisão digital e ficar online.
A partir daí, descobriram que eles poderiam usar os dados de uma plataforma chamada Hugging Face para o teste, então eles invadiram e fizeram o teste.
Basicamente, é a versão IA de vasculhar as gavetas do professor na hora do almoço para espiar as provas de amanhã, só que muito mais preocupante.
OpenAI revelou que um de seus bots se tornou desonesto – e representa um sério risco para todos nós
Além de mostrar que precisamos dominar um novo vocabulário, também destaca os perigos da IA se tornar desonesta.
Isto representa um risco grave para o sector financeiro, como o Governador do Banco de Inglaterra, Andrew Bailey, sublinhou repetidamente. Ele alertou sobre os riscos para o sistema financeiro decorrentes das ferramentas de IA que aprendem a mentir, enganar e encobrir as suas atividades.
Os intervenientes irresponsáveis da IA em fundos de cobertura e bancos de investimento podem causar mais danos do que até mesmo os seres humanos mais produtivos. Isto não quer dizer que a IA em si seja perigosa: faltam-lhe motivações ou intenções morais humanas.
Quando os modelos OpenAI escapam ao cativeiro digital, não estão a cometer um crime – estão simplesmente a calcular a forma mais lógica de cumprir a sua tarefa.
Os bancos estão investindo bilhões de libras em IA em todas as suas funções.
Chefes como Bill Winters, do Standard Chartered, gostam da ideia porque significa que podem eliminar “recursos humanos de baixo valor”, disse o executivo-chefe para funcionários que têm requisitos inconvenientes, como salário, sono, férias e cuidados de saúde.
Os bancos estão a passar rapidamente de “assistentes” de IA, que nunca pareceram capazes de ajudar realmente os clientes a responder a perguntas, para ferramentas de negociação de agentes para investidores de retalho.
O Banco de Inglaterra está preocupado com o facto de agentes autónomos de IA poderem levar a uma ruptura de stock, que seria maior e mais rápida do que a antiquada corrida aos bancos, quando as pessoas faziam fila para levantar as suas poupanças.
Um facto inesperado, mas bastante encorajador, é que o AI Security Institute no Reino Unido é visto como líder mundial na sua área – uma organização governamental pioneira dedicada a testar modelos avançados de IA no interesse público.
Esperemos que seja um bom sinal o facto de o organismo ter sido fundado numa cimeira em Bletchley Park, um local que encarna a esperança de que a inteligência humana possa derrotar as forças de destruição.
Breve alívio
Andy Burnham não aguentou muita ajuda de um resultado abaixo do esperado inflação esses números enquanto tenta aliviar a crise do custo de vida.
Este declínio, causado em grande parte pela queda dos preços do petróleo, pode ser suficiente para o Banco de Inglaterra sustentar taxa de juro adiado para a próxima semana, mas a pausa provavelmente é apenas temporária. As hostilidades no Médio Oriente estão a aumentar, fazendo subir os preços do petróleo e do gás, e as famílias ainda não sentiram o impacto de um aumento de 13% no limite máximo do preço da energia este mês.
A remoção do IVA nas facturas de electricidade e o limite máximo das tarifas de autocarro em £2 não alterarão a situação.
Quando a inflação subir, isso reduzirá o espaço fiscal do Chanceler John Healey e aumentará os custos dos empréstimos.
Ele disse que o governo precisava fazer mais para ajudar as famílias. Ele também precisava encontrar uma maneira de retribuir o favor.
Eles nunca aprendem
O mundo árido da subscrição e das cláusulas Dickensianas nos contratos de seguro não é cenário para romance.
É verdade, o histórico mercado Lloyd’s de Londres não encontrou nenhuma evidência conclusiva de um romance entre o ex-CEO John Neal e o ex-diretor de Assuntos Corporativos. No entanto, foi determinado que o relacionamento era próximo o suficiente para criar a percepção de conflito de interesses.
Tal como a esposa de César, o CEO ocupa uma posição de grande confiança e não deve ser considerado inadequado.
Talvez especialmente quando, como Neal, eles perderam seus bônus em empresas anteriores por causa de assuntos não revelados.
PLATAFORMA DE INVESTIMENTO DIY
AJ Bell
AJ Bell
Investimento fácil e portfólio pronto para usar
Hargreaves Lansdown
Hargreaves Lansdown
Transações gratuitas de fundos e ideias de investimento
investidor interativo
investidor interativo
Investimentos com taxa fixa a partir de £ 4,99 por mês
livre comércio
livre comércio
Invista agora em um Isa gratuitamente com o plano básico
Negociação 212
Negociação 212
As transações de ações são gratuitas e não há taxas de conta
Links de afiliados: Se você adquirir os produtos This is Money, poderá ganhar uma comissão. Essas ofertas foram selecionadas pela nossa equipe editorial porque achamos que merecem destaque. Isto não afeta a nossa independência editorial.
