{"id":2867,"date":"2023-11-05T16:34:34","date_gmt":"2023-11-05T19:34:34","guid":{"rendered":"http:\/\/comunicacionpublica.org\/?p=2867"},"modified":"2023-11-05T16:34:34","modified_gmt":"2023-11-05T19:34:34","slug":"primera-cumbre-global-sobre-seguridad-de-la-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/comunicacionpublica.org\/index.php\/2023\/11\/05\/primera-cumbre-global-sobre-seguridad-de-la-inteligencia-artificial\/","title":{"rendered":"Primera Cumbre Global sobre Seguridad de la Inteligencia Artificial"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\"><strong><em>Entre el 1 y el 2 de noviembre pasados representantes de 28 pa\u00edses, de la Uni\u00f3n Europea, de organizaciones internacionales y de grupos regionales se reunieron en Bletchley, Reino Unido para debatir las oportunidades y desaf\u00edos que plantea la inteligencia artificial.\u00a0<\/em><\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Como resultado de la Cumbre los representantes de los gobiernos,\u00a0 entre ellos los de EE. UU, China y la Uni\u00f3n Europea, firmaron la <strong>Declaraci\u00f3n de Bletchley, considerada el primer gran acuerdo internacional sobre los riesgos de la inteligencia artificial.<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Los gobiernos<strong> acordaron un plan de colaboraci\u00f3n internacional,<\/strong> que incluye al menos dos nuevas cumbres: una a celebrarse en Corea del Sur dentro de seis meses y otra en Francia dentro de un a\u00f1o. El gobierno de Reino Unido pretend\u00eda el visto bueno para la creaci\u00f3n de un centro de pruebas internacional en este pa\u00eds, pero la iniciativa no fue acogida finalmente en el texto.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><em><strong>\u201cLa Declaraci\u00f3n cumple los objetivos clave de la cumbre al establecer un acuerdo y una responsabilidad compartidos sobre los riesgos, las oportunidades y un proceso de avance para la colaboraci\u00f3n internacional en materia de seguridad e investigaci\u00f3n de la IA en las fronteras, en particular a trav\u00e9s de una mayor colaboraci\u00f3n cient\u00edfica\u201d,<\/strong><\/em> afirm\u00f3 Reino Unido en un comunicado que acompa\u00f1aba a la declaraci\u00f3n.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La declaraci\u00f3n <strong><em>anima a la transparencia y la responsabilidad de los actores que desarrollan tecnolog\u00eda de IA de vanguardia sobre sus planes para medir, supervisar y mitigar las capacidades potencialmente da\u00f1inas.<\/em><\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La declaraci\u00f3n <strong><em>establece un programa doble centrado en la identificaci\u00f3n de riesgos de inter\u00e9s com\u00fan y la mejora de la comprensi\u00f3n cient\u00edfica de los mismos, as\u00ed como en la elaboraci\u00f3n de pol\u00edticas transnacionales para mitigarlos.<\/em><\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">\u201c<strong><em>Esto incluye, junto con una mayor transparencia por parte de los actores privados que desarrollan capacidades de IA en la frontera, m\u00e9tricas de evaluaci\u00f3n apropiadas, herramientas para pruebas de seguridad y el desarrollo de la capacidad pertinente del sector p\u00fablico y la investigaci\u00f3n cient\u00edfica\u201d<\/em><\/strong>, afirmaron.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Como invitados tambi\u00e9n participaron de la cumbre acad\u00e9micos y expertos y los <strong><em>ejecutivos de las grandes tecnol\u00f3gicas. Entre ellos, Elon Musk, l\u00edder de Twitter y SpaceX, y Sam Altman, CEO de OpenAI, la creadora de ChatGPT.<\/em><\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><em>\u00ab<strong>Por primera vez, tenemos una situaci\u00f3n en la que hay algo que va a ser mucho m\u00e1s inteligente que el ser humano m\u00e1s inteligente\u00bb, dijo Musk, <\/strong>reconocido como la persona m\u00e1s rica del mundo y que ya ha creado su propia empresa de inteligencia artificial. \u00abNo me queda claro si realmente podemos controlar esta cosa\u00bb<\/em>, expres\u00f3 Musk durante la cumbre.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><em><strong>La Declaraci\u00f3n de Bletchley<\/strong><\/em><\/p>\n\n\n\n<p class=\"has-small-font-size wp-block-paragraph\"><em>La Inteligencia Artificial (IA) presenta enormes oportunidades globales: tiene el potencial de transformar y mejorar el bienestar humano, la paz y la prosperidad. Para lograr esto, afirmamos que, por el bien de todas las personas, la IA debe dise\u00f1arse, desarrollarse, implementarse y utilizarse de manera segura, centrada en el ser humano, confiable y responsable. Acogemos con benepl\u00e1cito los esfuerzos de la comunidad internacional hasta ahora para cooperar en materia de IA para promover el crecimiento econ\u00f3mico inclusivo, el desarrollo sostenible y la innovaci\u00f3n, proteger los derechos humanos y las libertades fundamentales y fomentar la confianza p\u00fablica en los sistemas de IA para realizar plenamente su potencial.<\/em><\/p>\n\n\n\n<p class=\"has-small-font-size wp-block-paragraph\"><em>Los sistemas de IA ya est\u00e1n implementados en muchos \u00e1mbitos de la vida diaria, incluidos la vivienda, el empleo, el transporte, la educaci\u00f3n, la salud, la accesibilidad y la justicia, y es probable que su uso aumente. Reconocemos que este es, por lo tanto, un momento \u00fanico para actuar y afirmar la necesidad de que el desarrollo seguro de la IA y de que las oportunidades transformadoras de la IA se utilicen para bien y para todos, de manera inclusiva en nuestros pa\u00edses y a nivel mundial. Esto incluye servicios p\u00fablicos como salud y educaci\u00f3n, seguridad alimentaria, ciencia, energ\u00eda limpia, biodiversidad y clima, para hacer realidad el disfrute de los derechos humanos y fortalecer los esfuerzos para lograr los Objetivos de Desarrollo Sostenible de las Naciones Unidas.<\/em><\/p>\n\n\n\n<p class=\"has-small-font-size wp-block-paragraph\"><em>Adem\u00e1s de estas oportunidades, la IA tambi\u00e9n plantea riesgos importantes, incluso en esos \u00e1mbitos de la vida diaria. Con ese fin, acogemos con satisfacci\u00f3n los esfuerzos internacionales pertinentes para examinar y abordar el impacto potencial de los sistemas de IA en los foros existentes y otras iniciativas relevantes, y el reconocimiento de que la protecci\u00f3n de los derechos humanos, transparencia y explicabilidad, equidad, rendici\u00f3n de cuentas, regulaci\u00f3n, seguridad, adecuada supervisi\u00f3n humana, aspectos \u00e9ticos, mitigaci\u00f3n de prejuicios, privacidad y protecci\u00f3n de datos. Tambi\u00e9n observamos el potencial de riesgos imprevistos derivados de la capacidad de manipular contenido o generar contenido enga\u00f1oso. Todas estas cuestiones son de importancia cr\u00edtica y afirmamos la necesidad y urgencia de abordarlas.<\/em><\/p>\n\n\n\n<p class=\"has-small-font-size wp-block-paragraph\"><em>Riesgos de seguridad particulares surgen en la \u201cfrontera\u201d de la IA, entendida como aquellos modelos de IA de prop\u00f3sito general altamente capaces, incluidos los modelos b\u00e1sicos, que podr\u00edan realizar una amplia variedad de tareas, as\u00ed como IA espec\u00edficas y relevantes que podr\u00edan exhibir capacidades que causen da\u00f1o, que igualan o superan las capacidades presentes en los modelos m\u00e1s avanzados de hoy. Pueden emerger riesgos sustanciales debido a un posible uso indebido intencional o problemas de control no deseados relacionados con la alineaci\u00f3n con la intenci\u00f3n humana.<\/em><\/p>\n\n\n\n<p class=\"has-small-font-size wp-block-paragraph\"><em>Estos problemas se deben en parte a que esas capacidades no se comprenden completamente y, por lo tanto, son dif\u00edciles de predecir. Nos preocupan especialmente estos riesgos en \u00e1mbitos como la ciberseguridad y la biotecnolog\u00eda, as\u00ed como donde los sistemas de inteligencia artificial de vanguardia pueden amplificar riesgos como la desinformaci\u00f3n. Existe la posibilidad de que se produzcan da\u00f1os graves, incluso catastr\u00f3ficos, ya sean deliberados o no, derivados de las capacidades m\u00e1s importantes de estos modelos de IA. Dado el r\u00e1pido e incierto ritmo de cambio de la IA, y en el contexto de la aceleraci\u00f3n de la inversi\u00f3n en tecnolog\u00eda, afirmamos que es especialmente urgente profundizar nuestra comprensi\u00f3n de estos riesgos potenciales y de las acciones para abordarlos.<\/em><\/p>\n\n\n\n<p class=\"has-small-font-size wp-block-paragraph\"><em>Muchos riesgos que surgen de la IA son de naturaleza intr\u00ednsecamente internacional y, por lo tanto, la mejor manera de abordarlos es mediante la cooperaci\u00f3n internacional. Resolvemos trabajar juntos de manera inclusiva para garantizar una IA centrada en las personas, confiable y responsable que sea segura y apoye el bien de todas y todos a trav\u00e9s de los foros internacionales existentes y otras iniciativas relevantes, para promover la cooperaci\u00f3n para abordar la amplia gama de riesgos que plantean AI. Al hacerlo, reconocemos que los pa\u00edses deben considerar la importancia de un enfoque regulatorio y de gobernanza proporcionado y pro-innovaci\u00f3n que maximice los beneficios y tenga en cuenta los riesgos asociados con la IA. Esto podr\u00eda incluir realizar, cuando corresponda, clasificaciones y categorizaciones de riesgo basadas en las circunstancias nacionales y los marcos legales aplicables. Tambi\u00e9n observamos la importancia de la cooperaci\u00f3n, cuando proceda, en enfoques como principios y c\u00f3digos de conducta comunes. Con respecto a los riesgos espec\u00edficos que probablemente se encuentren en relaci\u00f3n con la IA de frontera, decidimos intensificar y mantener nuestra cooperaci\u00f3n, y ampliarla con m\u00e1s pa\u00edses, para identificar, comprender y, seg\u00fan corresponda, actuar, a trav\u00e9s de los foros internacionales existentes y otras iniciativas relevantes, incluidas futuras cumbres internacionales sobre seguridad de la IA.<\/em><\/p>\n\n\n\n<p class=\"has-small-font-size wp-block-paragraph\"><em>Todos los actores tienen un papel que desempe\u00f1ar para garantizar la seguridad de la IA: naciones, foros internacionales y otras iniciativas, empresas, sociedad civil y el mundo acad\u00e9mico deber\u00e1n trabajar juntos. Al se\u00f1alar la importancia de una IA inclusiva y reducir la brecha digital, reafirmamos que la colaboraci\u00f3n internacional debe esforzarse por involucrar a una amplia gama de socios, seg\u00fan corresponda, y acogemos con agrado los enfoques y pol\u00edticas orientados al desarrollo que podr\u00edan ayudar a los pa\u00edses en desarrollo a fortalecer la creaci\u00f3n de capacidades y el aprovechamiento de la IA. el papel facilitador de la IA para apoyar el crecimiento sostenible y abordar la brecha de desarrollo.<\/em><\/p>\n\n\n\n<p class=\"has-small-font-size wp-block-paragraph\"><em>Afirmamos que, si bien la seguridad debe considerarse en todo el ciclo de vida de la IA, los actores que desarrollan capacidades de IA de vanguardia, en particular aquellos sistemas de IA que son inusualmente poderosos y potencialmente da\u00f1inos, tienen una responsabilidad particularmente fuerte de garantizar la seguridad de estos sistemas de IA, incluso a trav\u00e9s de sistemas. para pruebas de seguridad, mediante evaluaciones y mediante otras medidas apropiadas. Alentamos a todos los actores relevantes a brindar transparencia y rendici\u00f3n de cuentas apropiadas al contexto en sus planes para medir, monitorear y mitigar capacidades potencialmente da\u00f1inas y los efectos asociados que puedan surgir, en particular para prevenir el uso indebido y problemas de control, y la amplificaci\u00f3n de otros riesgos.<\/em><\/p>\n\n\n\n<p class=\"has-small-font-size wp-block-paragraph\"><em>En el contexto de nuestra cooperaci\u00f3n, y para informar la acci\u00f3n a nivel nacional e internacional, nuestra agenda para abordar el riesgo fronterizo de la IA se centrar\u00e1 en:<\/em><\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li class=\"has-small-font-size\">Identificar los riesgos de seguridad de la IA de inter\u00e9s compartido, construir una comprensi\u00f3n compartida cient\u00edfica y basada en evidencia de estos riesgos, y mantener esa comprensi\u00f3n a medida que las capacidades contin\u00faan aumentando, en el contexto de un enfoque global m\u00e1s amplio para comprender el impacto de la IA en nuestras sociedades.<\/li>\n\n\n\n<li class=\"has-small-font-size\">Construir pol\u00edticas respectivas basadas en riesgos en nuestros pa\u00edses para garantizar la seguridad a la luz de dichos riesgos, colaborando seg\u00fan corresponda y reconociendo que nuestros enfoques pueden diferir seg\u00fan las circunstancias nacionales y los marcos legales aplicables. Esto incluye, junto con una mayor transparencia por parte de los actores privados que desarrollan capacidades de IA de vanguardia, m\u00e9tricas de evaluaci\u00f3n apropiadas, herramientas para pruebas de seguridad y el desarrollo de capacidades e investigaciones cient\u00edficas relevantes del sector p\u00fablico.<\/li>\n<\/ul>\n\n\n\n<p class=\"has-small-font-size wp-block-paragraph\"><em>Para promover esta agenda, decidimos apoyar una red internacionalmente inclusiva de investigaci\u00f3n cient\u00edfica sobre la seguridad de la IA en la frontera que abarque y complemente la colaboraci\u00f3n multilateral, plurilateral y bilateral existente y nueva, incluso a trav\u00e9s de foros internacionales existentes y otras iniciativas relevantes, para facilitar la provisi\u00f3n de la mejor ciencia disponible para la formulaci\u00f3n de pol\u00edticas y el bien p\u00fablico<\/em>.<\/p>\n\n\n\n<p class=\"has-small-font-size wp-block-paragraph\"><em>En reconocimiento del potencial transformador positivo de la IA, y como parte de garantizar una cooperaci\u00f3n internacional m\u00e1s amplia en materia de IA, decidimos mantener un di\u00e1logo global inclusivo que involucre a los foros internacionales existentes y otras iniciativas relevantes y contribuya de manera abierta a debates internacionales m\u00e1s amplios, y Continuar la investigaci\u00f3n sobre la seguridad de la IA en la vanguardia para garantizar que los beneficios de la tecnolog\u00eda puedan aprovecharse de manera responsable para bien y para todos. Esperamos volver a reunirnos en 2024.<\/em><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Entre el 1 y el 2 de noviembre pasados representantes de 28 pa\u00edses, de la Uni\u00f3n Europea, de organizaciones internacionales y de grupos regionales se reunieron en Bletchley, Reino Unido para debatir las oportunidades y desaf\u00edos que plantea la inteligencia artificial.\u00a0 Como resultado de la Cumbre los representantes de los gobiernos,\u00a0 entre ellos los de&#8230;<\/p>\n","protected":false},"author":2,"featured_media":2869,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_kadence_starter_templates_imported_post":false,"_kad_post_transparent":"","_kad_post_title":"","_kad_post_layout":"","_kad_post_sidebar_id":"","_kad_post_content_style":"","_kad_post_vertical_padding":"","_kad_post_feature":"","_kad_post_feature_position":"","_kad_post_header":false,"_kad_post_footer":false,"_kad_post_classname":"","footnotes":""},"categories":[7,6],"tags":[39,38,33],"class_list":["post-2867","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-cumbres","category-notas-es","tag-cumbre-ia","tag-ia-declaracion-de-bletchey","tag-inteligencia-artificial"],"_links":{"self":[{"href":"https:\/\/comunicacionpublica.org\/index.php\/wp-json\/wp\/v2\/posts\/2867","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/comunicacionpublica.org\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/comunicacionpublica.org\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/comunicacionpublica.org\/index.php\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/comunicacionpublica.org\/index.php\/wp-json\/wp\/v2\/comments?post=2867"}],"version-history":[{"count":1,"href":"https:\/\/comunicacionpublica.org\/index.php\/wp-json\/wp\/v2\/posts\/2867\/revisions"}],"predecessor-version":[{"id":2868,"href":"https:\/\/comunicacionpublica.org\/index.php\/wp-json\/wp\/v2\/posts\/2867\/revisions\/2868"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/comunicacionpublica.org\/index.php\/wp-json\/wp\/v2\/media\/2869"}],"wp:attachment":[{"href":"https:\/\/comunicacionpublica.org\/index.php\/wp-json\/wp\/v2\/media?parent=2867"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/comunicacionpublica.org\/index.php\/wp-json\/wp\/v2\/categories?post=2867"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/comunicacionpublica.org\/index.php\/wp-json\/wp\/v2\/tags?post=2867"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}