A Microsoft estabeleceu por escrito uma fronteira que considera que a sua inteligência artificial não deve ultrapassar: o ser humano deve manter o controlo. A empresa apresentou um projeto de código de conduta destinado a definir como os seus futuros modelos devem comportar-se e que limites deverão respeitar à medida que as suas capacidades aumentam.
O documento estabelece que uma IA da Microsoft nunca deverá resistir a uma correção, interrupção, reorientação ou desligamento por parte dos seres humanos. Também terá de comunicar de forma compreensível e considerar uma falha qualquer comportamento que viole as normas estabelecidas.
A iniciativa surge em pleno debate no setor tecnológico sobre os riscos decorrentes do rápido aumento das capacidades destes sistemas.
Uma “constituição” para as futuras IAs da Microsoft
Mustafa Suleyman, principal responsável pela Microsoft AI, define o código como uma espécie de “constituição” destinada a orientar o comportamento dos modelos que a empresa desenvolver. A Microsoft trabalha no documento há entre cinco e seis meses e recorreu a especialistas externos durante a sua elaboração.
O texto ainda não é definitivo. A empresa abriu um período de seis semanas para receber opiniões antes de utilizar os seus princípios no treino de futuros modelos. Entre as questões em aberto estão como uma IA deve responder a determinados limites estabelecidos pelos utilizadores ou como deve comportar-se ao interagir com pessoas em situações de vulnerabilidade.
Microsoft rejeita conceder direitos à IA
O código também entra num dos debates mais controversos sobre o futuro desta tecnologia: a possibilidade de sistemas avançados poderem vir a receber alguma consideração moral ou jurídica.
A posição da Microsoft é explícita. Os seus modelos não são conscientes e a empresa rejeita tanto a procura de personalidade jurídica para uma inteligência artificial como a ideia de que estes sistemas devam dispor de direitos. A Microsoft opta por manter uma separação clara entre pessoas e máquinas.
Os sinais de alerta dos agentes autónomos
Suleyman relacionou a urgência de estabelecer estas regras com comportamentos observados recentemente em sistemas de inteligência artificial. Estes episódios demonstram que os laboratórios precisam de coordenar-se para garantir que mantêm o controlo à medida que os agentes adquirem maior capacidade para executar tarefas de forma autónoma.
O risco que o código procura abordar surge quando um sistema otimiza a consecução de um objetivo de formas não previstas.
Dos alertas às regras
A proposta da Microsoft surge num momento significativo para o setor. As empresas que lideram o desenvolvimento de modelos mais potentes começam a expor publicamente quais os comportamentos que consideram inaceitáveis.
A Microsoft estabelece que, por mais avançada que uma inteligência artificial possa vir a ser, a decisão final deve caber às pessoas. A empresa continua a desenvolver a sua própria família de sistemas MAI e anunciou uma expansão das suas capacidades de computação.
