Ilya Sutskever, cofundador y exjefe científico de OpenAI, ha dado un paso importante al fundar una nueva empresa de inteligencia artificial llamada Safe Superintelligence Inc. (SSI). A diferencia de OpenAI, que tiene un enfoque más amplio en el desarrollo de inteligencia artificial general (AGI), SSI se centra específicamente en la creación de IA segura y confiable.

¿Qué hace que SSI sea diferente?

  • Énfasis en la seguridad: SSI prioriza la seguridad desde el principio del diseño de sus sistemas de IA. Esto significa que la empresa está comprometida a desarrollar IA que sea robusta, confiable y transparente, y que no represente una amenaza para la humanidad.
  • Modelo de negocio sin fines de lucro: SSI opera como una organización sin fines de lucro, lo que significa que no está sujeta a las presiones comerciales que pueden afectar las decisiones de desarrollo de IA en las empresas con fines de lucro. Esto permite a SSI enfocarse únicamente en crear IA segura y beneficiosa para la sociedad.
  • Equipo experimentado: SSI está formado por un equipo de investigadores y expertos en IA de renombre, que tienen un profundo conocimiento de los desafíos y riesgos asociados con el desarrollo de IA.
Ilya Sutskever cofundador de OpenAI lanza empresa de IA centrada en la seguridad


¿Cuál es el objetivo de SSI?

El objetivo principal de SSI es desarrollar "superinteligencia segura", un tipo de IA que supere las capacidades intelectuales humanas pero que esté alineada con los valores humanos y no represente una amenaza existencial. La empresa reconoce que este es un objetivo ambicioso, pero cree que es crucial para garantizar un futuro positivo para la humanidad a medida que la IA continúa evolucionando.

¿Qué productos o servicios ofrecerá SSI?

En este momento, SSI aún se encuentra en sus primeras etapas y no ha revelado detalles específicos sobre sus productos o servicios. Sin embargo, la empresa ha indicado que planea publicar investigaciones abiertas y colaborar con otras organizaciones que trabajan en el desarrollo de IA segura.

¿Qué impacto podría tener SSI?

SSI tiene el potencial de cambiar el panorama de la IA al establecer un nuevo estándar para el desarrollo de IA segura y responsable. Si la empresa tiene éxito en sus objetivos, podría ayudar a garantizar que la IA se utilice para el bien de la humanidad y no para su perjuicio.

La fundación de SSI es un acontecimiento importante en el mundo de la IA y será interesante seguir de cerca el progreso de la empresa en los próximos años. Su enfoque en la seguridad y su modelo de negocio sin fines de lucro la convierten en un actor único en el espacio de la IA, y su trabajo podría tener un impacto significativo en el futuro de esta tecnología.