VENTAJAS E INCONVENIENTES DE LA INTELIGENCIA ARTIFICIAL

La INTELIGENCIA ARTIFICIAL “IA”, si bien podría ser enormemente beneficiosa, conlleva riesgos significativos.

Pero estos riesgos se pueden abordar.

En pocas palabras: la inteligencia artificial tendrá efectos transformadores en la sociedad en las próximas décadas y podría traer enormes beneficios, pero existe un riesgo sustancial. Una forma prometedora de reducir las posibilidades de una catástrofe relacionada con la IA es encontrar soluciones técnicas que nos permitan evitar que los sistemas de IA lleven a cabo comportamientos peligrosos.

Sus ventajas podrían ser:

Pros

  • Oportunidad de hacer una contribución significativa a un área de investigación de gran importancia
  • Trabajo intelectualmente desafiante e interesante
  • El área tiene una gran necesidad de investigadores e ingenieros calificados, y está muy descuidada en general

Contras

  • Debido a la escasez de gerentes, es difícil conseguir trabajo y puede llevarte algún tiempo construir el capital profesional y la experiencia necesarios
  • Necesitas una sólida formación cuantitativa
  • Puede ser muy difícil encontrar soluciones
  • Existe un riesgo real de hacer daño

Datos clave sobre el ajuste

Necesitarás una formación cuantitativa y probablemente deberías disfrutar de la programación. Si nunca has probado la programación, puedes ser una buena opción si puedes dividir los problemas en partes lógicas, generar y probar hipótesis, tener la voluntad de probar muchas soluciones diferentes y prestar mucha atención a los detalles.

Si ya has hecho lo siguiente:

  • Eres un ingeniero de software fuerte, podrías postularte para roles de colaborador de investigación empírica ahora mismo (incluso si no tienes experiencia en aprendizaje automático, aunque eso ayuda)
  • Podría entrar en uno de los 10 mejores doctorados de aprendizaje automático, lo que lo pondría en camino de convertirse en líder de investigación.
  • Si tienes una sólida formación en matemáticas o ciencias de la computación teóricas, probablemente serás una buena opción para la investigación de alineación teórica

Recomendado

Si eres adecuado para esta carrera, puede ser la mejor manera de tener un impacto social.

Estado de la revisión

Basado en una investigación de profundidad media

Los autores de esta trabajo dan las gracias a:

Adam Gleave, Jacob Hilton y Rohin Shah por revisar este artículo. Y gracias a Charlie Rogers-Smith por su ayuda y su artículo sobre el tema: Cómo seguir una carrera en la alineación técnica de la IA.

Por qué la investigación técnica de seguridad de la IA es de gran impacto

Como hemos argumentado, en las próximas décadas, podríamos ver el desarrollo de sistemas de aprendizaje automático enormemente poderosos con el potencial de transformar la sociedad. Esta transformación podría traer enormes beneficios, pero solo si evitamos los riesgos.

Creemos que los peores riesgos de los sistemas de IA surgen en gran parte porque los sistemas de IA podrían estar desalineados, es decir, intentarán hacer cosas que no queremos que hagan. En particular, creemos que podrían estar desalineados de tal manera que desarrollen (y ejecuten) planes que supongan un riesgo para la capacidad de la humanidad de influir en el mundo, incluso cuando no lo hacemos