www.portierramaryaire.com

Gus escribió:Buenas

Una cosa es que se usen y desarrollen IAs para tareas determinadas, como por ejemplo para tratar los datos de radar o sonar e incluso con sistemas totalmente integrados como pasa con el aegis. Y otra es desarrollar IAs que puedan tomar decisiones de mas trascendencia y les dejemos tomar decisiones que debemos tomar nosotros.

Un saludo

Es más sencillo todavía. Una "IA" es un modelo entrenado de la forma que fuera para resolver, como dices, problemas realmente restringidos. El tope ahora mismo es hacer un pipeline entre dos problemas, que medio empieza a funcionar, como dar una descripción en lenguaje natural y que con ella se genere una imagen.

Siendo las capacidades de las "IA" dedicadas la ostia, estamos lejísimos de la toma de decisiones. Algo he publicado al respecto en ejércitos

https://www.revistaejercitos.com/2021/1 ... ine-teams/

poliorcetes escribió:...

Es más sencillo todavía. Una "IA" es un modelo entrenado de la forma que fuera para resolver, como dices, problemas realmente restringidos. El tope ahora mismo es hacer un pipeline entre dos problemas, que medio empieza a funcionar, como dar una descripción en lenguaje natural y que con ella se genere una imagen.
...

Correcto, el problema es la "inversión" de la red: que a partir de la decisión del modelo/concepto me devuelva un comportamiento "in the real world" que me valga y se ajuste. Y como bien dices, más allá combinado con otras. Actualmente lo más cercano empieza a ser los predictores de código y los content aware en fotografía, que empiezan a tener parámetros con los que decidir. Aunque dependen fuertemente de la bbdd de la que deben de tirar para devolver resultados (como nosotros de nuestra memoria) ...y en ese "como" se recrean los conceptos es uno de los origenes de la creatividad.

Internamente es un mundo de locos el de la IAs.

Pequeño contrato para el programa BARD ("Building Artificial Intelligence for Reliable Defense"): https://sam.gov/opp/692a4b7a537c4e51a11 ... c26b7/view

...
Department/Ind. Agency
DEPT OF DEFENSE
Sub-tier
DEPT OF THE AIR FORCE
Major Command
AFMC
Sub Command
AIR FORCE RESEARCH LABORATORY
...
Contractor Awarded Name: BOOZ ALLEN HAMILTON INC.
Contractor Awarded Address: McLean, VA 22102 USA
Base and All Options Value (Total Contract Value): $2368016.00
...

¿Sí una IA comete un crimen de guerra a quién se juzga?

dejece escribió:¿Sí una IA comete un crimen de guerra a quién se juzga?

¿Si un soldado, un piloto... comete un crimen de guerra, a quién se juzga? No olvides que la "IA" será una herramienta más al servicio de quien da las órdenes. Un soldado también sigue órdenes, y si se desvía luego toca analizar responsabilidades siempre.

Saludos

Orel escribió:

dejece escribió:¿Sí una IA comete un crimen de guerra a quién se juzga?

¿Si un soldado, un piloto... comete un crimen de guerra, a quién se juzga? No olvides que la "IA" será una herramienta más al servicio de quien da las órdenes. Un soldado también sigue órdenes, y si se desvía luego toca analizar responsabilidades siempre.

Saludos

¿Ya pero y si la máquina decide a quién matar ?
Para encontrar el vacío legal y así poder hacer lo que se quiera

Orel escribió:

dejece escribió:¿Sí una IA comete un crimen de guerra a quién se juzga?

¿Si un soldado, un piloto... comete un crimen de guerra, a quién se juzga? No olvides que la "IA" será una herramienta más al servicio de quien da las órdenes. Un soldado también sigue órdenes, y si se desvía luego toca analizar responsabilidades siempre.

Saludos

Cuidado. Que no es lo mismo "responsabilidad" que "culpabilidad". Un piloto que bombardea a sabiendas un hospital es culpable. Pero de una IA que lo hiciera, aunque no coincidiera con los deseos de sus fabricantes, habra "responsables",que no es lo mismo. Se deberia tratar como un "malfuncionamiento" de una maquina que causa daños imprevistos.

No obstante, antes de llegar al punto de que una IA pudiera, o pudiese, estar en disposicion de tomar decisiones que pudieran, o pudiesen, terminar en el bombardeo de un hospital... Antes que eso ya deberiamos tener en marcha el programa "John Connor" de defensa anti AI.

Pero no van a ir por ahi los tiros, ni los bombardeos. Lo divertido va a venir cuando esas IA empiecen a utilizarse en labores de ataques ciberneticos y puedan hacerlo mejor que ahora. Entoces vais a ver que risas cuando tengamos que ir al combate con nuestras relucientes hachas de piedra.

dejece escribió:

Orel escribió:

dejece escribió:¿Sí una IA comete un crimen de guerra a quién se juzga?

¿Si un soldado, un piloto... comete un crimen de guerra, a quién se juzga? No olvides que la "IA" será una herramienta más al servicio de quien da las órdenes. Un soldado también sigue órdenes, y si se desvía luego toca analizar responsabilidades siempre.

¿Ya pero y si la máquina decide a quién matar ?

¿Y si el soldado decide a quién matar?
Repito: ambos estarán en el frente cumpliendo una misión porque se lo han ordenado, con unos objetivos, unas reglas de enfrentamiento, etc. En ambos casos si se desvían de la misma, hay que analizar responsabilidades.

Saludos

Atticus escribió:

Orel escribió:

dejece escribió:¿Sí una IA comete un crimen de guerra a quién se juzga?

¿Si un soldado, un piloto... comete un crimen de guerra, a quién se juzga? No olvides que la "IA" será una herramienta más al servicio de quien da las órdenes. Un soldado también sigue órdenes, y si se desvía luego toca analizar responsabilidades siempre.

Cuidado. Que no es lo mismo "responsabilidad" que "culpabilidad". Un piloto que bombardea a sabiendas un hospital es culpable. Pero de una IA que lo hiciera, aunque no coincidiera con los deseos de sus fabricantes, habra "responsables",que no es lo mismo. Se deberia tratar como un "malfuncionamiento" de una maquina que causa daños imprevistos...

Has ido a algo muy fácil. Ponlo en genérico: un piloto bombardea un hospital. Puede ser por motivos humanos y/o técnicos, igualmente puede haber responsables y/o malfuncionamiento. Ahora habrá que analizar:
- si era un objetivo asignado (¿por qué, quién lo asignó, etc?),
- si se sabía de antemano que era un hospital (¿fallo de inteligencia, acaso el sensor falló al asignarlo, hecho aposta, por qué, quién lo decidió?),
- si hubo fallo del sistema de armas (¿fallo sistemático, quién era el responsable de ensayos, fallo puntual de mantenimiento, quién hizo ese mto. ...?),
- si "el piloto lo hizo a sabiendas" (¿por qué, cuál era su estado psicológico, quién le hizo la última evaluación, quién le asignó esa misión?)
- Etc, etc.

Pues parecido con un "robot con IA".

Ahora pongo ejemplos para que penséis, que YA se han dado en guerras reales:
¿A quién se juzga cuando un misil con capacidad dispara y olvida es lanzado en modo "mata lo que pilles"? P.ej. HARM lanzados en Allied Force preventivamente por delante de los grupos de ataque sin asignar objetivo para que se lancen contra lo primero que se active; o los Patriot en modo automático en Desert Storm que produjeron algún derribo amigo; o ciertos misiles anticarro que tienen esa capacidad... Incluso más simple aún, una mina o "trampa" de toda la vida, donde el hombre no decida lo que ataca.
Esa mina o misil "en modo autónomo" lo mismo ataca una fragata o un carro enemigo... o lo mismo ataca un crucero turístico o una ambulancia. La responsabilidad es del arma... o es de quien la lanzó; o de quien ordenó la misión; o de Inteligencia que dijo que ahí había enemigos; o del fabricante porque el arma no ha funcionado como debía; o de mto. porque el arma no estaba correctamente mantenida ; o del organismo de ensayos y certificación del arma que lo hizo mal; Etc, etc. Como digo: en cada caso habrá que analizarlo.

Saludos

Orel escribió:Repito: ambos estarán en el frente cumpliendo una misión porque se lo han ordenado, con unos objetivos, unas reglas de enfrentamiento, etc. En ambos casos si se desvían de la misma, hay que analizar responsabilidades.
Saludos

Creo que no me entiendes ¿hay alguna manera de dispersar la culpa ,de crímenes de guerra, usando inteligencia artificial para que aprovechando algún vacío legal esos actos queden impunes?

dejece escribió:

Orel escribió:Repito: ambos estarán en el frente cumpliendo una misión porque se lo han ordenado, con unos objetivos, unas reglas de enfrentamiento, etc. En ambos casos si se desvían de la misma, hay que analizar responsabilidades.
Saludos

Creo que no me entiendes ¿hay alguna manera de dispersar la culpa ,de crímenes de guerra, usando inteligencia artificial para que aprovechando algún vacío legal esos actos queden impunes?

No.
Otra cosa es hacer trampas como mandar a tus tropas/armas/robots sin "marcas identificativas", como hizo Rusia en el Este de Ucrania desde 2014, y entonces "no son tuyos". Pero eso es otra cosa, como vemos aplicable igualmente a "humanos".

Saludos

dejece escribió:

Orel escribió:...

Creo que no me entiendes ¿hay alguna manera de dispersar la culpa ,de crímenes de guerra, usando inteligencia artificial para que aprovechando algún vacío legal esos actos queden impunes?

No.

Además, eso de la inteligencia artificial no existe, existen órdenes previas, más o menos complejas, programadas por un humano.

Además, eso de la inteligencia artificial no existe, existen órdenes previas, más o menos complejas, programadas por un humano.

Como llevo diciendo toda la vida: un soldado sigue órdenes. Una máquina también.
Las diferencias en favor de los humanos es que somos mucho más capaces de improvisar y de ser creativos que ninguna "IA". Y en general se dice que será así siempre.

Saludos

ruso escribió:No.

Además, eso de la inteligencia artificial no existe, existen órdenes previas, más o menos complejas, programadas por un humano.

Entonces no hay una especie de skynet diga se hace esto es ciencia ficción.Ahora lo entiendo gracias por el comentario

Creo que no me entiendes ¿hay alguna manera de dispersar la culpa ,de crímenes de guerra, usando inteligencia artificial para que aprovechando algún vacío legal esos actos queden impunes?

A ver... las leyes de guerra no existen para buscar resquicios, existen para diferenciarnos de los animales de bellota.

Como llevo diciendo toda la vida: un soldado sigue órdenes. Una máquina también.

Joder... Con eso han escrito una cuarta parte de los episodios de Star Trek, con la definicion de "humanidad". Una IA lo es precisamente porque es capaz de tomar decisiones, no solo cumplir ordenes. Tu, a lo sumo, le darias directrices exactamente igual que harias con tus soldados humanos. Despues las interpretaran como sea. Por simplificar con un ejemplo, si tu le das a tus tropas la orden de combatir al enemigo con todas las fuerzas y estos la interpretan como "arrasar con todo incluido hospitales" (cosa que puede incluso oponerse al sentido que tu, como comandante, querias darle). Pues si se cargan el famoso hospital el general no es culpable porque nunca dio esa orden (ni nada parecido). Pero es responsable. Con una IA pasa exactamente lo mismo. Si la famosa IA toma unas decisiones por su cuenta (que para eso es una inteligencia) que choca incluso con los preceptos de los suyos... Pues esos suyos serian responsables, pero no culpables. Las culpabilidades con las cupulas vendrian despues, y atendiendo a las medidas tomadas cuando se hubiera producido esos hechos. Desde castigar (desenchufar) a los culpables hasta poner medidas para evitar que se repitan los hechos. Lo que haga una IA no es muy diferente de un My Lay cualquiera.