El hombre que evitó una guerra nuclear
¿Es bueno dejar que las máquinas tomen decisiones? ¿o es mejor que haya una persona detrás que corrobore que la decisión es la correcta?
No hace mucho tuve que llamar al 1004 de Telefónica para un determinado asunto. Una máquina me atendió pidiendo que explicara qué me sucedía. Así lo hice, pero dicha máquina replicó con un “no entiendo”. Lo repetí por segunda vez y acto seguido me volvió a decir lo mismo y me colgó. No recuerdo los detalles exactos o si me preguntó dos o tres veces. La cuestión es que me colgó.
Yo pensé: una máquina me ha colgado! una máquina ha tomado la decisión de colgarme! ¿cómo pueden permitir una cosa así?. Sí, ya sé, no es tan grave. Entonces, ¿por qué pensé en ello como una cosa tan mala? Lo pensé porque inmediatamente recordé la película “Juegos de guerra” donde una máquina (la WOPR) podía tomar la decisión de lanzar los misiles nucleares desde EEUU y me vino a la cabeza lo que sucedió a las 00:14 horas del 26 de septiembre de 1983 en Moscú (hora local).
En aquel momento un satélite soviético dio la alarma: un misil balístico intercontinental americano se había lanzado desde la base de Malmstrom (Montana) y en 20 minutos alcanzaría la URSS.
El centro de mando de la inteligencia militar soviética desde donde se coordinaba la defensa aeroespacial rusa estaba en el búnker Serpukhov-15. Al cargo del mismo estaba Stanislav Petrov, teniente coronel del ejército soviético. Su misión era verificar y alertar de cualquier ataque a sus superiores, con lo que se iniciaría el proceso para contraatacar con armamento nuclear a los EEUU. Pensad que estábamos en plena Guerra Fría.
Petrov pensó que debía tratarse de un error porque no tenía sentido que los americanos atacaran con un único misil pero más tarde los ordenadores indicaron que cuatro misiles más se dirigían hacia Rusia.
Petrov volvió a pensar que los ordenadores podían equivocarse y que seguía siendo raro que sólo fueran cinco misiles cuando EEUU tenía cientos. Decidió esperar desobedeciendo el estricto protocolo.
Pasaron los minutos y no se vio tal destrucción. Finalmente se descubrió que era una falsa alarma causada por una rara conjunción astronómica lo que despistó al satélite.
Cuando le preguntaron por qué no había dado la alerta, contestó simplemente: “La gente no empieza una guerra nuclear con sólo cinco misiles”. Su superior le dijo que sería homenajeado por evitar la catástrofe.
Pero no fue así. Este incidente avergonzó a altos cargos soviéticos y consideraron que el teniente coronel Petrov se equivocó en su decisión, por lo que le retiraron del ejército. Hoy Stanislav Petrov vive solo en un pequeño apartamento en Friasino a 40 km de Moscú.
Gracias a que estaba un hombre con la sangre fría, la intuición y la inteligencia de Petrov y no una máquina que colgara el teléfono se evitó posiblemente una guerra nuclear.
Pasados más 20 años sigue afirmando que no hizo nada extraordinario, que simplemente hizo bien su trabajo y que no se considera un héroe. Pues aunque no se considere como tal ha pasado a engrosar la lista de los míos.
Por cierto, volví a llamar al 1004, me inventé algo diferente y me pusieron con una persona con quien finalmente pude arreglar el problema.
Fuentes:
http://es.wikipedia.org/wiki/Stanislav_Petrov
http://javimoya.com/blog/2006/02/20/el-hombre-que-nos-salvo-a-todos
http://www.brightstarsound.com/world_hero/photos.html
http://es.wikipedia.org/wiki/Guerra_Fr%C3%ADa
El día 27 de febrero de 2006 a las 03:44
Soy nuevo por acá, aprovecho para mencionarte lo bueno de tu blog, le visito seguido, salvo que no participo demasiado.
Un poco al margen, aprovecho la amplia audiencia para saber si alguien o el mismo Omalaled, puede colaborarme con los datos de algo de lo que solo recuerdo un esbozo: Un submarino ruso con carga nuclear, que fue asediado durante días por los estadounidenses y que finalmente tubo que salir por falta de oxígeno. Lo menciono porque también fue una de las tantas situaciones en que estuvo por comenzar una guerra nuclear, y aunque no es el tema principal tampoco es un offtopic total.
Referente a la toma de decisiones por las máquinas, no tengo mucho que decir, ¿Después de todo no fueron hombres los que no evitaron y si crearon las guerras precedentes y presentes?, la cuestión no esta en que se les delegue función de guerra a las maquinas, porque si les diseñamos para ello qué cosa esperamos, tal vez si se les delegara funciones de paz el tópico tendría más sentido, muy en la línea de Yo robot, de Isaac Asimov que conozco sois asiduos a él… un análisis “artificial” da la misma respuesta, al hombre hay que protegerlo del mismo hombre, el precio de hacerlo es superior a la libertad… a mal que nos pese una máquina lo entenderá y todo podría ir en la línea del citado libro. Un tanto sacado de contexto, pero me parece interesante al debate sobre la delegación de funciones y desiciones a las máquinas. Hay que entender que en este caso aunque se le delego una una decisión a una máquina y esta equivoco, el verdadero problema se hallaba en la función que le delegaron: Cómo y cuándo iniciar una guerra o responder a ella. No se qué cosa correcta se puede esperar si la decisión esta subyugada a la función, y en este caso la función es un absurdo completo, si a la misma máquina se le hubiera colocado una función referente al estudio de la guerra y la paz, hubiera llegado a la misma respuesta que con un poco de sensatez el hombre también obtiene, la guerra es un absurdo. En fin, delegar la planificación de una guerra es simplemente absurdo, y una máquina si se equivoca será en un principio por una función equivocada independiente de si la decisión haya sido correcta o no.
De paso aprovecho para colar mi inquietud a esperanzas de que alguien sepa a que suceso me refería. Este es un excelente blog, no solo por quién lo pública sino por quienes le visitan y generan interesantes conversaciones, me animaré en algo a participar.
.Marfil.
El día 27 de febrero de 2006 a las 07:54
Tengo un compañero de trabajo cuyo anterior curro era ser “la máquina” que atendía un servicio técnico de una empresa de telefonía.
Me explico, en realidad no hay ningún ordenador escuchándote, sino un/a teleoperador/a que oye la secuencia y pulsa los botones convenientes para “atender” al cliente, de esta forma eliminas a los histéricos, a los prepotentes y a los que no tienen ni idea o cortar al cliente haciéndole recaer la culpa en el en lugar d ela compañía cuando no hay técnicos disponibles.
El día 27 de febrero de 2006 a las 08:44
Felicidades por el artículo. La historia da que pensar. Sobre todo porque no es el único caso. A los americanos les paso algo parecido aunque no llegaron a plantearse el lanzamiento de misiles.
Sobre el incidente del submarino, tal vez se trate de este: http://www.realinstitutoelcano.org/publicaciones/107.asp
Fue durante la crisis de los misiles en Cuba y, gracias a una votación y un solo voto de un marino llamado Vasili Arkhipov, se evito el lanzamiento de torpedos nucleares por un submarino sovietico. Muy, muy cerca de una guerra nuclear.
El día 27 de febrero de 2006 a las 11:10
Cuanto más trabajo con los ordenadores más cuenta me doy de que son sólo una caja tonta, que ni siquiera se da cuenta cuando le pides que haga algo que no puede hacer.
El día 27 de febrero de 2006 a las 11:30
.Marfil: no tengo idea de la situación que hablas; puede que sea la que cita Ambros. Respecto lo de tomar la decisión las máquinas, el problema es que es muy difícil explicarles los detallitos e intuiciones. Todos sabemos que unas botas de de piel están hechas de piel pero unas botas de agua no están hechas de agua. Explicar todos esos “segundos sentidos” a una máquina lo veo complejo. POr ello pienso que siempre ha de haber una persona detrás que eche un ojo.
Arturios … “de esta forma eliminas a los histéricos, a los prepotentes y a los que no tienen ni idea” no sé qué pensar. Me lo haré mirar …
Ambros: parece mentira que con armas nucleares en su poder lleguen a estos extremos.
gemberro-proxy: totalmente de acuerdo.
Salud!
El día 27 de febrero de 2006 a las 12:08
Telefónica tiene un reconocedor de voz razonablemente bueno. Probablemente, el mejor que existe en español (si preguntaste en catalán, ya no sé que decirte). Lo conozco relativamente porque he sido alumno de una de las personas que lo ha desarrollado (y una de las personas que más sabe del tema en estas tierras).
Cuando digo “razonablemente bueno” hablo de “comparado con otros”. Las tecnologías del habla todavía tienen muchas limitaciones. Y hacer un reconocedor genérico, con una gramática amplia y una red de reconocimiento extensa, es verdaderamente complicado. Sólo el hecho de que un chisme te pregunte en general “qué quieres” en vez de reconocer entre una lista reducida de instrucciones es bastante avanzado para los tiempos que corren.
El hecho de que usen de hecho el reconocedor de voz o pongan a gente al otro lado (como dice Arturios)… pues no tengo ni idea de lo que hace Telefónica. Ya que tienen el reconocedor (que es un hecho), podrían ponerlo a funcionar (que supongo que es lo más barato). Pero no sé si en la práctica lo harán (quizás aún no esté preparado para reconocer “habla espontánea”).
Un saludo
h
El día 27 de febrero de 2006 a las 12:27
Gracias por las aclaraciones, hairanakh. Fue en castellano.
No me parece mal que pongan reconocedores de voz; pero siempre podrían poner la opción “en cualquier otro caso, pulse asterisco” y te pasen con una persona.
Lo que nunca entenderé es que la máquina cuelgue (aunque detrás haya una persona). Como cliente te sientes totalmente desamparado.
Saludos
El día 27 de febrero de 2006 a las 20:10
Mejor no digo nada de las maquinas contestadores, pero si me parece relevante el que se tenga que considerar que siempre puede suceder algo no previsto y que no prprevisto previamente.. ¡por ahora!
El día 27 de febrero de 2006 a las 20:11
Mejor no digo nada de las maquinas contestadores, pero si me parece relevante el que se tenga que considerar que siempre puede suceder algo no previsto previamente.. ¡por ahora! El futuro es una incognita.
El día 28 de febrero de 2006 a las 16:28
¡Ay! si hubieran puesto un programilla “en caso de detección de misil que viene, disparar …
El día 28 de febrero de 2006 a las 17:18
(…)estaba con la sangre fría(…)? me suena a traducción vía web
El día 28 de febrero de 2006 a las 17:21
No … es una frase picada directamente por mí … la frase entera es:
“Gracias a que estaba un hombre con la sangre fría, la intuición y la inteligencia de Petrov y no una máquina que colgara el teléfono se evitó posiblemente una guerra nuclear.”
Creo que tiene el sentido correcto, ¿no?
Salud!!
El día 28 de febrero de 2006 a las 17:37
“(…) estaba un hombre con la sangre fría, la intuición y la inteligencia de (…)”
Leetelo bien y verás como no parece traducción del google
El día 28 de febrero de 2006 a las 17:42
Hombre, visto así … pues quizás sí. Palabra que no lo es
Salud!
El día 1 de marzo de 2006 a las 01:51
Por experiencia personal, el reconocedor de telefónica funciona razonablemente bien si tú sabes que te estás dirigiendo a una máquina y obras en consecuencia al estado actual de las máquinas… esto és: ‘problema factura’ o ‘activar trío’ es entendido y redireccionado, mientras que un ‘estaba mirando la última factura que me han enviado y he creido detectar un problema que tal vez…’ pues como que no.
El día 1 de marzo de 2006 a las 10:20
“baja plan de precios” es lo que dije. Pero no me sabe mal que no me reconozca lo que digo. Lo que me supo mal es que me colgara …
El día 4 de marzo de 2006 a las 05:58
Ambros.
No, no era el caso que buscaba. Aunque esta igualmente interesante. Dando más pistas, era un solo submarino ruso y estaba en misión de espionaje, varios barcos (No me se una definición mas específica
) estadounidenses le siguieron y finalmente le acorralaron, hasta que por falta de oxígeno el submarino subió, el submarino llevaba carga nuclear y si algo era claro era que si los hundían no se iban a dejar hundir sin disparar los misiles. Finalmente no paso nada. (Que va! )
omalaled
Hola de nuevo, sobre lo que mencionas, es algo muy tratado en IA, y me imagino que sabrás más que yo de ello. De algún modo lo “ideal” o tal vez lo viable en verdad sea dar capacidad a las máquinas para aprender y ello es bastante complejo; dar las instrucciones detalladas como mencionas es complejisimo; durante mucho tiempo se trabajo la inteligencia artificial como si fuera solo “memoria artificial”, ambos caminos son tortuosos, pero solo uno tiene futuro y es el del aprendizaje
Sin embargo no era precisamente este el enfoque que quería dar, mi verdadero interés es que en cierto modo es que el escrito da una impresión sensacionalista de “Mirad que majos somos, por poco una tonta maquina nos estropea, menos mal había ahí un hombre!”. Retomo lo que mencione, independiente de la decisión de la máquina, todo venía errado desde que se le asigno esa función en la que debía decidir, porque qué se podía esperar de una maquina con función de guerra?, acaso algo lógico, porque a fin de cuentas todo se resumía a tiempo de postergación entre la hecatombe nuclear y no comparto para nada esa sensación que parece “reflejar” el articulo, tal vez no sea tu intención, pero seguro mucha gente le entenderá como las comillas que he colocado. Creo que hay que agradecer a Petrov, pero no por ser hombre, porque también fueron hombres a los que se les ocurrió el plancito de poner al mundo en vilo porque se creyeron con la autoridad de dirigir a este mundo y su comitiva a una “posible” guerra. El error puntual que se achaca a las máquinas, no hace honor a la verdad, y toda la situación simplemente no hubiera existido para siguiera llegar a ese error puntual porque para empezar si dependiera de algo medianamente pensante optar por el posible de una guerra, nunca lo contemplaría como un futurible.
En fin, posiblemente el operador automático de Telefónica hubiera sido más competente en diplomacia que nosotros, los llamados “hombres”, y no hubiera sido necesario evitar ninguna guerra.
El día 4 de marzo de 2006 a las 06:10
FE DE ERRATAS.
Reproduzco el texto con las correcciones pertinentes, lamento los errores, de paso aprovecho para agregar y cambiar unas cosas.
Ambros.
No, no era el caso que buscaba. Aunque esta igualmente interesante. Dando más pistas, era un solo submarino ruso y estaba en misión de espionaje, varios barcos (No me se una definición mas específica
) estadounidenses le siguieron y finalmente le acorralaron, hasta que por falta de oxígeno el submarino subió, el submarino llevaba carga nuclear y si algo era claro era que si los hundían no se iban a dejar hundir sin disparar los misiles. Finalmente no paso nada. (Que va! )
Omalaled.
Hola de nuevo, sobre lo que mencionas, es algo muy tratado en IA, y me imagino que sabrás más que yo de ello. De algún modo lo “ideal” o tal vez lo viable en verdad sea dar capacidad a las máquinas para aprender y ello es bastante complejo; dar las instrucciones detalladas como mencionas es complejisimo; durante mucho tiempo se trabajo la inteligencia artificial como si fuera solo “memoria artificial”, ambos caminos son tortuosos, pero solo uno tiene futuro y es el del aprendizaje.
Sin embargo no era precisamente ese el enfoque que quería dar, mi verdadero interés es que en cierto modo el escrito da una impresión sensacionalista de “Mirad que majos somos, por poco una tonta maquina nos estropea, menos mal había un hombre ahí!”. Retomo lo que mencione, independiente de la decisión de la máquina, todo venía errado desde que se le asigno esa función en la que debía decidir, porque qué se podía esperar de una maquina con función de guerra?, acaso algo lógico?, porque a fin de cuentas todo se resumía a la postergación de una guerra ya declarada y no comparto para nada esa sensación que parece “reflejar” el articulo como si el que salvara el día haya sido el hombre, pregunto inocentemente ¿De quién nos salvo? (Respondo baijito: Del hombre).
Tal vez no haya sido tu intención, pero seguro mucha gente le entenderá como las comillas que he colocado “MIrad que majos…” . Creo que hay que agradecer a Petrov, pero no por ser hombre, porque también fueron hombres a los que se les ocurrió el plancito de poner al mundo en vilo porque se creyeron con la autoridad de dirigir a este mundo y su comitiva a una “posible” guerra. El error puntual que se achaca a las máquinas, no hace honor a la verdad, y toda la situación simplemente no hubiera existido para siquiera llegar a ese error puntual porque para empezar si dependiera de “algo medianamente pensante” optar por el posible de una guerra, nunca lo contemplaría como una opción. (Es más dudo que una máquina tenga conflictos que resolver con otra, y extendiendo al hombre, le serían absurdos los nuestros.)
En fin, posiblemente el operador automático de Telefónica hubiera sido más competente en diplomacia y política que nosotros, los llamados “hombres”, y no hubiera sido necesario evitar ninguna guerra.
El día 4 de marzo de 2006 a las 23:51
Tienes razón .Marfil pero no me digas que jamás has visto gente que se fía ciegamente de lo que dicen los ordenadores. No saben si están bien o mal programados, no saben nada de lo que contienen, pero si lo dicen los ordenadores, eso es así y punto.
Si quiero, en este caso, quitarle un poco de esa infalibilidad a las máquinas que muchas personas dan.
Salud!
El día 5 de marzo de 2006 a las 04:45
SI yo no digo que no tengas razón. Lo que puntualizaba era el tono del mensaje, más que por poner a las máquinas en su justo lugar, por poner al hombre en un podio de extrema altura.
Sin duda no hay que otorgarles una extrema confianza a las máquinas, y menos en algunas labores; pero la verdad no se me ocurre como extrapolarlo a algo tangible y que no sea tan puntual como los ejemplos de este caso.
Hay que tener en cuenta que el meollo esta más en las máquinas que toman decisiones que en las que solo hacen cálculos (Aunque una decisión, puede en muchos casos ser un cálculo). Hace ya tiempo las máquinas rebasaron al hombre en los cálculos, al menos en precisión.
Hay ciertas cosas que es mejor que las haga el hombre o una máquina, pero yo no veo tan clara la línea de donde se separan, no porque sea tenue sino porque es serpenteante. Esta bien quitarle esa infalibilidad a las máquinas que aveces se cree tienen, sin embargo creo que la confianza que les tenemos en muchos casos se la han ganado a pulso; como siempre el sentido común debería estar detrás de todo, más en cosas tan importantes.
El día 5 de marzo de 2006 a las 04:45
SI yo no digo que no tengas razón. Lo que puntualizaba era el tono del mensaje, más que por poner a las máquinas en su justo lugar, por poner al hombre en un podio de extrema altura.
Sin duda no hay que otorgarles una extrema confianza a las máquinas, y menos en algunas labores; pero la verdad no se me ocurre como extrapolarlo a algo tangible y que no sea tan puntual como los ejemplos de este caso.
Hay que tener en cuenta que el meollo esta más en las máquinas que toman decisiones que en las que solo hacen cálculos (Aunque una decisión, puede en muchos casos ser un cálculo). Hace ya tiempo las máquinas rebasaron al hombre en los cálculos, al menos en precisión.
Hay ciertas cosas que es mejor que las haga el hombre o una máquina, pero yo no veo tan clara la línea de donde se separan, no porque sea tenue sino porque es serpenteante. Esta bien quitarle esa infalibilidad a las máquinas que aveces se cree tienen, sin embargo creo que la confianza que les tenemos en muchos casos se la han ganado a pulso; como siempre el sentido común debería estar detrás de todo, más en cosas tan importantes.
El día 6 de marzo de 2006 a las 00:14
Como decía Bohr: “Estamos mucho más de acuerdo de lo que usted cree”
Salud!