O risco de uma “faca de dois gumes” na guerra militar de IA
O desenvolvimento da inteligência artificial está revolucionando as forças armadas, com o objetivo de reduzir as baixas de soldados e aumentar a capacidade de atingir o inimigo com precisão. Também provou ser relativamente eficaz na defesa, como o sistema de defesa aérea de Israel que aproveita a IA.
Os Estados Unidos, a China e outros países importantes estão a competir para integrar a IA nas suas forças armadas. Chegou uma nova era de expansão militar impulsionada pela IA, mas com ela vem o receio de que conduza a crises e preocupações inesperadas, críticas e graves.
Pense na invenção do avião. Quem poderia imaginar então que o avião mudaria a direção e o caráter da guerra? No futuro, um enxame de drones poderá decidir quem controla os céus. O desenvolvimento de submarinos não tripulados poderia neutralizar as capacidades dos submarinos nucleares.
Está a ocorrer uma mudança não só no domínio das armas, mas em todos os aspectos dos assuntos militares. O conceito de “campo de batalha” também está mudando radicalmente. Já começou a expandir-se para o espaço e o ciberespaço.
As armas e a tecnologia têm apoiado a tomada de decisões dos seres humanos através da utilização da tecnologia da informação, mas é cada vez mais provável que as armas e as tecnologias com sistemas de IA substituam os seres humanos, apesar das numerosas garantias de que os seres humanos permanecerão sempre informados.
O desenvolvimento da IA está a acelerar rapidamente graças à inovação que ocorre em empresas e startups globais de tecnologia. Os grandes grupos militares-industriais tradicionais, que monopolizaram a tecnologia militar e o desenvolvimento de armas, estão a lutar para recuperar o atraso.
A revolução militar impulsionada pela IA dependerá de enormes quantidades de informação e dos algoritmos que a processam. Isso está diretamente relacionado à capacidade de selecionar e identificar com precisão inimigos e ameaças, bem como atacar ou contra-atacar rapidamente.
Esta é uma preocupação séria. Se as informações estiverem incorretas ou tendenciosas, a IA tomará uma decisão errada e imprecisa. Os centros de informação digital também são vulneráveis a ataques cibernéticos.
Enfrentaremos problemas de preconceito graças à IA. As questões principais são: “As decisões tomadas pela IA estão corretas? » “Por que ele deu essas instruções? » “Podemos controlar a IA? » — Estas são questões fundamentais e importantes.
Vários sistemas de IA, como Gospel, Lavender e Alchemist, que processam fluxos de dados e identificam alvos potenciais, que se acredita que Israel tenha utilizado nos seus ataques a Gaza, também foram criticados por causarem muitas vítimas civis.
Este problema não se limita a Israel. Embora a introdução da IA possa melhorar as capacidades militares e contribuir para a eficácia, deixar demasiadas decisões para a IA pode tornar a dissuasão e a defesa menos eficazes e arriscar consequências catastróficas. Portanto, é importante reconhecer que a IA é uma faca de dois gumes.
À medida que o desenvolvimento dos sites de redes sociais tornou todos os campos de batalha visíveis, a desinformação e os vídeos de propaganda impulsionados pela IA abundam, criando uma situação irónica em que a verdade no campo de batalha já não é clara.
A IA consegue distinguir corretamente a veracidade de tais informações? Somos confrontados com as questões filosóficas e éticas da governação da IA pelos seres humanos e da sua credibilidade.
Nas circunstâncias que podem ser descritas como a chegada da competição de armas de IA, é importante estabelecer regras internacionais que envolvam também a China e a Rússia.
Na verdade, os Estados Unidos e as organizações multilaterais, incluindo as Nações Unidas, deram início a essa medida, mas permanecem muitas questões, incluindo se as regras podem acompanhar o desenvolvimento da tecnologia de IA e se podem tornar-se juridicamente vinculativas. .
A sabedoria da humanidade é posta em causa para superar estas dificuldades.
(Michael Raska é professor assistente de defesa e inovação militar na Escola de Estudos Internacionais S. Rajaratnam, Universidade Tecnológica de Nanyang, em Cingapura.)
