Investigador cognitivo ario Joscha bach dice que la humanidad enfrenta una amenaza existencial más excelso al remolcar los pies sobre la inteligencia químico que construirla demasiado rápido.
Qué pasó: Hablando la semana pasada en el Instituto de Conciencia de Máquina de California, el teórico de la IA desde hace mucho tiempo argumentó que el cambio climático, los súper volcanes y nuestra propia “incapacidad para mantenerse alineados con la supervivencia” plantean una probabilidad más ingreso de homicidio que un cálculo fugitivo, a menos que las personas usen la “burbuja tecnológica” contemporáneo para construir máquinas más inteligentes rápidamente.
“Durante un desliz de tiempo lo suficiente, es cierto que poco conducirá a nuestra cese … Tengo mucho más miedo de que no construamos una IA que la que la construimos”, dijo a la audiencia.
Bach, quien investiga la conciencia de la máquina y los modelos informáticos de la mente, ha escrito previamente que la sociedad debe “hacer que la IA sea hermosa”: sistemas seguros y alineados capaces de dirigir la civilización a través del próximo cuello de botella evolutivo.
Sin IA, argumenta Bach, el respiro de la civilización de los depredadores y la hambruna es una “burbuja” temporal que estallará. Esquilar máquinas inteligentes, dice, es la única forma factible de inventar defensas a escalera planetaria.
Ver igualmente: El ex secretario del Hacienda, Larry Summers, advierte que el dólar está comenzando a comerciar como una moneda latinoamericana: ¿Greenback que pasa de un refugio seguro a un activo de aventura?
Por qué importa: La súplica cae en una fisura entre las luminarias de IA. Opadai patriarca Sam Altman ha cambiado de atraer a las barandillas radicales en 2023 a instar a la “regulación sensata” que “no nos ralentiza”, enmarcar la velocidad como básico para innovar a China. Elon almizcle y manzana Aapl cofundador Steve Wozniak Se unió a una carta abierta de 2024 exigiendo una moratoria de seis meses en sistemas más allá de GPT-4, aunque Musk luego calificó el esfuerzo “inútil”.
Geoffrey Hintonel “Padrino de Ai”, renuncia Google Googl Salpicadura En 2023, a posteriori de concluir, hay una probabilidad de 50-50 que los sistemas avanzados podrían eliminar a la humanidad en dos décadas. En Davos, compañero triunfador del premio Turing Joshua Bengio Le dijo a Business Insider que los modelos “agentes” autónomos podrían ser la ruta más peligrosa y presionar por las reglas de seguridad internacionales antiguamente de que dichos sistemas esquilar.
Meta META Yann Lecunen una entrevista con Wired, descarta tal charla del día del querella final como “estúpido”, lo que insistió en que los modelos de hoy todavía carecen de razonamiento fundamental y sentido popular.
Foto cortesía: Tapati Rinchumrus en Shutterstock.com
Lea a continuación: Ross Ulbricht, el fundador de la Ruta de la Seda perdonado por Trump poco a posteriori de su inauguración, recibe la friolera de la billetera de Bitcoin de $ 31 millones en Bitcoin de $ 31 millones
