La IA superinteligente será imposible de controlar. Biblioteca técnica gratuita Noticias

NOVEDADES DE CIENCIA Y TECNOLOGÍA, NOVEDAD EN ELECTRÓNICA
biblioteca técnica gratuita / Feed de noticias

Será imposible controlar la IA superinteligente

29.09.2022

La idea de derrocar a la humanidad con inteligencia artificial se ha discutido durante décadas, y en 2021 los científicos emitieron su veredicto sobre si se puede controlar la superinteligencia informática de alto nivel.

El problema es que para controlar una superinteligencia que está mucho más allá de la comprensión humana, será necesario simular esta superinteligencia, que puede ser analizada y controlada. Pero si las personas no pueden entender esto, entonces es imposible crear tal simulación.

No se pueden establecer reglas como "no lastimar a las personas" si las personas no entienden qué escenarios tiene para ofrecer la IA. Una vez que un sistema informático se ejecuta a un nivel que supera las capacidades de nuestros programadores, no se pueden establecer más límites.

La superinteligencia presenta un problema fundamentalmente diferente a los habitualmente estudiados bajo el lema de la "ética de los robots", esto se debe al hecho de que la superinteligencia es multifacética y, por lo tanto, potencialmente capaz de movilizar una variedad de recursos para lograr objetivos que son potencialmente incomprensibles. a los humanos, sin mencionar que pueden ser controlados.

Parte del razonamiento del equipo provino del problema de detención planteado por Alan Turing en 1936. El problema es saber si el programa de computadora generará una salida y una respuesta (para que se detenga) o simplemente dé vueltas tratando de encontrarla.

Los estudiosos señalaron, como demostró Turing con matemáticas inteligentes, que si bien podemos saber esto para algunos programas específicos, es lógicamente imposible encontrar una manera que nos permita saber esto para cada programa potencial que podría escribirse. Esto nos lleva de vuelta a la IA, que, en un estado superinteligente, podría contener simultáneamente en su memoria todos los programas informáticos posibles.

Según los científicos, cualquier programa escrito para evitar que la IA dañe a los humanos y destruya el mundo, por ejemplo, puede decidir (y detener) si es o no matemáticamente imposible estar absolutamente seguro de todos modos, lo que significa que no se puede contener. . Los científicos dijeron que la alternativa a enseñarle a la IA algo de ética y decirle que no destruya el mundo, algo de lo que ningún algoritmo puede estar absolutamente seguro, es limitar las capacidades de la superinteligencia.

"El estudio también rechazó esta idea, sugiriendo que limitaría las posibilidades de la IA. El argumento es que si no vamos a usarla para resolver problemas más allá de las capacidades humanas, entonces, ¿para qué crearla? Si vamos a avanzar adelante con la IA "es posible que ni siquiera sepamos cuándo aparecerá una superinteligencia fuera de nuestro control, tal es su incomprensibilidad. Esto significa que debemos comenzar a hacernos preguntas serias sobre en qué dirección nos estamos moviendo", señalaron los científicos.

<< Volver: La curcumina previene la pérdida de la visión 29.09.2022

>> Adelante: Levadura trasplantada con genes humanos 28.09.2022

Últimas noticias de ciencia y tecnología, nueva electrónica:

Trampa de aire para insectos. 01.05.2024

La agricultura es uno de los sectores clave de la economía y el control de plagas es una parte integral de este proceso. Un equipo de científicos del Consejo Indio de Investigación Agrícola-Instituto Central de Investigación de la Papa (ICAR-CPRI), Shimla, ha encontrado una solución innovadora a este problema: una trampa de aire para insectos impulsada por el viento. Este dispositivo aborda las deficiencias de los métodos tradicionales de control de plagas al proporcionar datos de población de insectos en tiempo real. La trampa funciona enteramente con energía eólica, lo que la convierte en una solución respetuosa con el medio ambiente que no requiere energía. Su diseño único permite el seguimiento de insectos tanto dañinos como beneficiosos, proporcionando una visión completa de la población en cualquier zona agrícola. "Evaluando las plagas objetivo en el momento adecuado, podemos tomar las medidas necesarias para controlar tanto las plagas como las enfermedades", afirma Kapil. ... >>

La amenaza de los desechos espaciales al campo magnético de la Tierra 01.05.2024

Cada vez más oímos hablar de un aumento en la cantidad de basura espacial que rodea nuestro planeta. Sin embargo, no son sólo los satélites y las naves espaciales activos los que contribuyen a este problema, sino también los desechos de misiones antiguas. El creciente número de satélites lanzados por empresas como SpaceX no sólo crea oportunidades para el desarrollo de Internet, sino también graves amenazas a la seguridad espacial. Los expertos ahora están centrando su atención en las posibles implicaciones para el campo magnético de la Tierra. El Dr. Jonathan McDowell, del Centro Harvard-Smithsonian de Astrofísica, destaca que las empresas están desplegando rápidamente constelaciones de satélites y que el número de satélites podría crecer hasta 100 en la próxima década. El rápido desarrollo de estas armadas cósmicas de satélites puede conducir a la contaminación del entorno de plasma de la Tierra con desechos peligrosos y una amenaza a la estabilidad de la magnetosfera. Los restos metálicos de los cohetes usados pueden alterar la ionosfera y la magnetosfera. Ambos sistemas desempeñan un papel clave en la protección de la atmósfera y el mantenimiento ... >>

Solidificación de sustancias a granel. 30.04.2024

Hay bastantes misterios en el mundo de la ciencia y uno de ellos es el extraño comportamiento de los materiales a granel. Pueden comportarse como un sólido pero de repente se convierten en un líquido que fluye. Este fenómeno ha llamado la atención de muchos investigadores, y quizás por fin estemos más cerca de resolver este misterio. Imagínese arena en un reloj de arena. Por lo general, fluye libremente, pero en algunos casos sus partículas comienzan a atascarse, pasando de líquido a sólido. Esta transición tiene implicaciones importantes para muchas áreas, desde la producción de drogas hasta la construcción. Investigadores de EE.UU. han intentado describir este fenómeno y acercarse a su comprensión. En el estudio, los científicos realizaron simulaciones en el laboratorio utilizando datos de bolsas de perlas de poliestireno. Descubrieron que las vibraciones dentro de estos conjuntos tenían frecuencias específicas, lo que significa que sólo ciertos tipos de vibraciones podían viajar a través del material. Recibió ... >>

Estimulador cerebral implantado 30.04.2024

En los últimos años, la investigación científica en el campo de la neurotecnología ha logrado enormes avances, abriendo nuevos horizontes para el tratamiento de diversos trastornos psiquiátricos y neurológicos. Uno de los logros importantes fue la creación del estimulador cerebral implantado más pequeño, presentado por un laboratorio de la Universidad Rice. Llamado Terapéutico Sobrecerebro Digitalmente Programable (DOT), este dispositivo innovador promete revolucionar los tratamientos al brindar más autonomía y accesibilidad a los pacientes. El implante, desarrollado en colaboración con Motif Neurotech y médicos, introduce un enfoque innovador para la estimulación cerebral. Se alimenta a través de un transmisor externo que utiliza transferencia de energía magnetoeléctrica, lo que elimina la necesidad de cables y baterías grandes típicas de las tecnologías existentes. Esto hace que el procedimiento sea menos invasivo y brinda más oportunidades para mejorar la calidad de vida de los pacientes. Además de su uso en el tratamiento, resiste ... >>

La percepción del tiempo depende de lo que uno esté mirando. 29.04.2024

Las investigaciones en el campo de la psicología del tiempo siguen sorprendiéndonos con sus resultados. Los recientes descubrimientos de científicos de la Universidad George Mason (EE.UU.) resultaron bastante notables: descubrieron que lo que miramos puede influir en gran medida en nuestro sentido del tiempo. Durante el experimento, 52 participantes realizaron una serie de pruebas, estimando la duración de la visualización de varias imágenes. Los resultados fueron sorprendentes: el tamaño y el detalle de las imágenes tuvieron un impacto significativo en la percepción del tiempo. Las escenas más grandes y menos abarrotadas creaban la ilusión de que el tiempo se ralentizaba, mientras que las imágenes más pequeñas y ocupadas daban la sensación de que el tiempo se aceleraba. Los investigadores sugieren que el desorden visual o la sobrecarga de detalles pueden dificultar la percepción del mundo que nos rodea, lo que a su vez puede conducir a una percepción más rápida del tiempo. Así, se demostró que nuestra percepción del tiempo está estrechamente relacionada con lo que miramos. Más grande y más pequeño ... >>

Noticias aleatorias del Archivo

El revestimiento antideslumbrante mejora la eficiencia de los paneles solares 20.05.2014

Científicos británicos han desarrollado una forma de eliminar el resplandor de los paneles solares y aumentar su eficiencia debido a una mejor absorción de la luz.

Los paneles solares tradicionales se caracterizan por su capacidad de producir un deslumbramiento intenso. Investigadores de la Universidad de Loughborough en el Reino Unido han podido desarrollar un revestimiento antirreflectante multicapa que reduce el reflejo de la luz de los paneles fotovoltaicos y, como resultado, aumenta su eficiencia.

Los científicos recubrieron los paneles solares con capas de dióxido de silicio y óxido de circonio. El nuevo revestimiento es resistente a la abrasión y los arañazos. Gracias al uso de la composición, se incrementa la potencia de salida de la planta de energía solar y la eficiencia de convertir la energía solar en energía eléctrica.

Ver completa Archivo de noticias de ciencia y tecnología, nueva electrónica

Todos los idiomas de esta página

Hogar | Biblioteca | Artículos | Mapa del sitio | Revisiones del sitio