The Christchurch Call Commitments

A free, open and secure internet is a powerful tool to promote connectivity, enhance social inclusiveness and foster economic growth.

The internet is, however, not immune from abuse by terrorist and violent extremist actors. This was tragically highlighted by the terrorist attacks of 15 March 2019 on the Muslim community of Christchurch – terrorist attacks that were designed to go viral.

The dissemination of such content online has adverse impacts on the human rights of the victims, on our collective security and on people all over the world.

Significant steps have already been taken to address this issue by, among others: the European Commission with initiatives such as the EU Internet Forum; the G20, and the G7, including work underway during France's G7 Presidency on combating the use of the internet for terrorist and violent extremist purposes; along with the Global Internet Forum to Counter Terrorism (GIFCT); the Global Counterterrorism Forum; Tech Against Terrorism; and the Aqaba Process established by the Hashemite Kingdom of Jordan.

The events of Christchurch highlighted once again the urgent need for action and enhanced cooperation among the wide range of actors with influence over this issue, including governments, civil society, and online service providers, such as social media companies, to eliminate terrorist and violent extremist content online.

The Call outlines collective, voluntary commitments from Governments and online service providers intended to address the issue of terrorist and violent extremist content online and to prevent the abuse of the internet as occurred in and after the Christchurch attacks.

All action on this issue must be consistent with principles of a free, open and secure internet, without compromising human rights and fundamental freedoms, including freedom of expression. It must also recognize the internet's ability to act as a force for good, including by promoting innovation and economic development and fostering inclusive societies.

To that end, we, the Governments, commit to:

Counter the drivers of terrorism and violent extremism by strengthening the resilience and inclusiveness of our societies to enable them to resist terrorist and violent extremist ideologies, including through education, building media literacy to help counter distorted terrorist and violent extremist narratives, and the fight against inequality .

Ensure effective enforcement of applicable laws that prohibit the production or dissemination of terrorist and violent extremist content, in a manner consistent with the rule of law and international human rights law, including freedom of expression.

Encourage media outlets to apply ethical standards when depicting terrorist events online, to avoid amplifying terrorist and violent extremist content.

Support frameworks, such as industry standards , to ensure that reporting on terrorist attacks does not amplify terrorist and violent extremist content, without prejudice to responsible coverage of terrorism and violent extremism.

Consider appropriate action to prevent the use of online services to disseminate terrorist and violent extremist content, including through collaborative actions, such as:

• Awareness-raising and capacity-building activities aimed at smaller online service providers;
• Development of industry standards or voluntary frameworks;
• Regulatory or policy measures consist of a free, open and secure internet and international human rights law.

To that end, we, the online service providers, commit to:

Take transparent, specific measures seeking to prevent the upload of terrorist and violent extremist content and to prevent its dissemination on social media and similar content-sharing services, including its immediate and permanent removal, without prejudice to law enforcement and user appeals requirements , in a manner consistent with human rights and fundamental freedoms. Cooperative measures to achieve these outcomes may include technology development, the expansion and use of shared databases of hashes and URLs, and effective notice and takedown procedures.

Provide greater transparency in the setting of community standards or terms of service , including by:

• Outlining and publishing the consequences of sharing terrorist and violent extremist content;
• Describing policies and putting in place procedures for detecting and removing terrorist and violent extremist content.

Enforce those community standards or terms of service in a manner consistent with human rights and freedom fundamentals, including by:

• Prioritizing moderation of terrorist and violent extremist content, however identified;
• Closing accounts where appropriate;
• Providing an efficient complaints and appeals process for those wishing to contest the removal of their content or a decision to decline the upload of their content.

Implement immediate, effective measures to mitigate the specific risk that terrorist and violent extremist content is disseminated through livestreaming , including identification of content for real-time review.

Implement regular and transparent public reporting , in a way that is measurable and supported by clear methodology, on the quantity and nature of terrorist and violent extremist content being detected and removed.

Review the operation of algorithms and other processes that may drive users towards and/or amplify terrorist and violent extremist content to better understand possible intervention points and to implement changes where this occurs. This may include using algorithms and other processes to redirect users from such content or the promotion of credible, positive alternatives or counter-narratives. This may include building appropriate mechanisms for reporting, designed in a multi-stakeholder process and without compromising trade secrets or the effectiveness of service providers' practices through unnecessary disclosure.

Work together to ensure cross-industry efforts are coordinated and robust , for instance by investing in and expanding the GIFCT, and by sharing knowledge and expertise.

To that end, we, Governments and online service providers, commit to work collectively to:

Work with civil society to promote community-led efforts to counter violent extremism in all its forms, including through the development and promotion of positive alternatives and counter-messaging.

Develop effective interventions , based on trusted information sharing about the effects of algorithmic and other processes, to redirect users from terrorist and violent extremist content.

Accelerate research into and development of technical solutions to prevent the upload of and to detect and immediately remove terrorist and violent extremist content online, and share these solutions through open channels, drawing on expertise from academia, researchers, and civil society.

Support research and academic efforts to better understand, prevent and counter terrorist and violent extremist content online , including both the offline and online impacts of this activity.

Ensure appropriate cooperation with and among law enforcement agencies for the purposes of investigating and prosecuting illegal online activity in regard to detected and/or removed terrorist and violent extremist content, in a manner consistent with rule of law and human rights protections.

Support smaller platforms as they build capacity to remove terrorist and violent extremist content , including through sharing technical solutions and relevant databases of hashes or other relevant material, such as the GIFCT shared database.

Collaborate, and support partner countries, in the development and implementation of best practice in preventing the dissemination of terrorist and violent extremist content online, including through operational coordination and trusted information exchanges in accordance with relevant data protection and privacy rules.

Develop processes allowing governments and online service providers to respond rapidly, effectively and in a coordinated manner to the dissemination of terrorist or violent extremist content following a terrorist event. This may require the development of a shared crisis protocol and information-sharing processes, in a manner consistent with human rights protections.

Respect, and for Governments protect, human rights , including by avoiding directly or indirectly contributing to adverse human rights impacts through business activities and addressing such impacts where they occur.

Recognize the important role of civil society in supporting work on the issues and commitments in the Call, including through:

• Offering expert advice on implementing the commitments in this Call in a manner consistent with a free, open and secure internet and with international human rights law;
• Working, including with governments and online service providers, to increase transparency;
• Where necessary, working to support users through company appeals and complaints processes.

Affirm our willingness to continue to work together , in existing forums and relevant organizations, institutions, mechanisms and processes to assist one another and to build momentum and widen support for the Call.

Develop and support a range of practical, non-duplicative initiatives to ensure that this pledge is delivered.

Acknowledge that governments, online service providers, and civil society may wish to take further cooperative action to address a broader range of harmful online content, such as the actions that will be discussed further during the G7 Biarritz Summit, in the G20, the Aqaba Process , the Five Country Ministerial, and a range of other forums.

Un internet libre, ouvert et sûr est un outil puissant pour favoriser les échanges, l’inclusion et la croissance économique.

Cependant, Internet peut aussi être détourné par des acteurs terroristes et extrémistes violents, comme l’ont tragiquement montré les attentats terroristes du 15 mars 2019 contre la communauté musulmane de Christchurch, attentats qui avaient été conçus pour se propager en ligne de manière virale.

La diffusion de ce type de contenu sur Internet a des effets délétères sur les droits des victimes, sur notre sécurité collective et sur les populations du monde entier.

Des mesures importantes ont déjà été prises pour lutter contre ce danger, que ce soit, entre autres, par la Commission européenne à travers des initiatives telles que le Forum de l’Union Européenne sur l’Internet, par le G20 et G7, y compris dans le cadre des travaux en cours menés sous la présidence française du G7 dans le domaine de la lutte contre l’utilisation de l’Internet à des fins de terrorisme et d’extrémisme violent, ainsi que par le Forum mondial de l’Internet contre le terrorisme (GIFCT), le Forum mondial de lutte contre le terrorisme (GCF), l’initiative Tech Against Terrorism et le processus d'Aqaba mis en place par le Royaume hachémite de Jordanie.

Les événements de Christchurch ont démontré une nouvelle fois qu’il était urgent d’agir et de renforcer la coopération entre les nombreux acteurs ayant une influence dans ce domaine, notamment les gouvernements, la société civile et les fournisseurs de services en ligne, comme les entreprises de réseaux sociaux, afin d’éliminer les contenus terroristes et extrémistes violents en ligne.

Cet Appel souligne les engagements collectifs et volontaires pris par les gouvernements et les fournisseurs de services en ligne pour faire face au problème des contenus terroristes et extrémistes violents en ligne et prévenir les utilisations abusives de l’Internet telles que celles commises durant et après les attentats de Christchurch.

Toutes les mesures prises pour faire face à ce problème doivent être conformes aux principes d’un Internet libre, ouvert et sûr, dans le respect des droits de l’Homme et des libertés fondamentales, y compris la liberté d’expression. Elles doivent également tenir compte du fait qu’internet peut avoir une action bénéfique, notamment à travers la promotion de l’innovation et du développement économique, mais aussi en favorisant l’intégration sociale.

À cet effet, nous, gouvernements, nous engageons à:

Lutter contre les facteurs de terrorisme et d’extrémisme violent, en renforçant la résilience et l’inclusion de nos sociétés pour leur permettre de résister aux idéologies terroristes et extrémistes violentes, notamment à travers l’éducation, en renforçant plus spécifiquement l’éducation aux médias et à l’information pour les aider à mieux contrer les discours terroristes et extrémistes violents et en renforçant la lutte contre les inégalités.

Veiller à l’application efficace des lois en vigueur qui interdisent la production ou la diffusion de contenus terroristes et extrémistes violents, dans le respect de l’état de droit et du droit international des droits de l’Homme, y compris de la liberté d’expression.

Encourager les médias à appliquer des normes éthiques lorsqu’ils décrivent en ligne des événements terroristes, pour éviter d’augmenter la portée des contenus terroristes et extrémistes violents.

Soutenir la mise en place de cadres, par exemple des normes sectorielles, pour s’assurer que la communication sur les attentats terroristes n’augmente pas l’écho des contenus terroristes et extrémistes violents, sans toutefois porter préjudice à une couverture responsable du terrorisme et de l’extrémisme violent.

Envisager des mesures adaptées afin de prévenir l’utilisation des services en ligne pour diffuser des contenus terroristes et extrémistes violents, notamment des mesures concertées comme :

• des actions de sensibilisation et de renforcement des capacités destinées aux petits fournisseurs de service en ligne ;
• l’élaboration de normes sectorielles ou de cadres volontaires ;
• des mesures réglementaires ou politiques compatibles avec un Internet libre, ouvert et sûr et conformes au droit international des droits de l’Homme.

À cet effet, nous, fournisseurs de services en ligne, nous engageons à :

Prendre des mesures particulières et transparentes permettant de prévenir le téléchargement de contenus terroristes et extrémistes violents, mais aussi leur diffusion sur les réseaux sociaux et les services analogues de partage de contenus, incluant notamment leur retrait immédiat et permanent, sans préjudice des exigences en matière de respect des lois et de possibilités pour les utilisateurs de déposer un recours, dans le respect des droits de l’Homme et des libertés fondamentales. Les mesures concertées pour parvenir à ces objectifs peuvent comporter l’élaboration de technologies, le développement et l’utilisation de bases de données partagées d’empreintes numériques et d’URL ainsi que des procédures efficaces de notification et de retrait.

Faire preuve de plus de transparence dans la mise en place de normes collectives ou de conditions de services, notamment :

• en présentant et en publiant les conséquences résultant du partage de contenus terroristes et extrémistes violents ;
• en décrivant les mesures adoptées et en mettant en place des procédures de détection et de retrait des contenus terroristes et extrémistes violents.

Appliquer ces normes collectives ou ces conditions de service dans le respect des droits de l’Homme et des libertés fondamentales, notamment :

• en privilégiant la modération des contenus terroristes et extrémistes violents, tout en les identifiant ;
• en fermant des comptes lorsque c’est nécessaire ;
• en mettant en place des procédures efficaces de réclamation et d’appel pour les personnes qui souhaitent contester le retrait de leur contenu ou contester une décision de refus de téléchargement de leur contenu.

Mettre en œuvre des mesures efficaces et immédiates visant à atténuer les risques particuliers de diffusion de contenus terroristes et extrémistes violents dans le cadre de flux en direct, notamment l’identification de contenus à des fins d’examen en temps réel.

Effectuer des rapports publics, réguliers et transparents, quantitatifs et reposant sur une méthodologie précise, sur la quantité et la nature de contenus terroristes et extrémistes violents détectés et retirés.

Examiner les formules des algorithmes et les autres processus pouvant orienter les utilisateurs vers des contenus terroristes et extrémistes violents et/ou amplifier ces contenus, afin d’avoir une meilleure connaissance des points d’intervention possibles et d’effectuer des modifications lorsque ces phénomènes sont constatés. Cela comprend par exemple l’utilisation d’algorithmes et d’autres processus pour détourner les utilisateurs de ces contenus, ou la promotion de discours crédibles et positifs contradictoires ou offrant une alternative. Il peut s’agir de mettre en place des mécanismes de signalement adaptés, conçus dans le cadre d’un processus multi-acteurs et sans nuire aux secrets commerciaux ou à l'efficacité des pratiques des fournisseurs de services par la communication injustifiée d’informations.

Agir ensemble pour faire en sorte que les efforts intersectoriels soient coordonnées et solides, par exemple en nous mobilisant au sein du Forum mondial de l’Internet contre le terrorisme et en le développant, ainsi qu’en partageant nos connaissances et notre expertise.

À cet effet, nous, gouvernements et fournisseurs de services en ligne, nous engageons à agir ensemble pour :

Œuvrer avec la société civile afin de promouvoir des actions locales pour lutter contre l’extrémisme violent sous toutes ses formes, notamment par l’élaboration et la promotion de discours alternatifs et de contre-messages positifs.

Mettre en place des interventions efficaces pour détourner les utilisateurs des contenus terroristes et extrémistes violents, en se fondant sur des échanges d’informations fiables sur les effets des algorithmes et d’autres processus.

Accélérer la recherche et le développement de solutions techniques pour prévenir le téléchargement, la détection et le retrait immédiat de contenus terroristes et extrémistes violents en ligne, et partager ces solutions par des canaux ouverts, en nous appuyant sur l’expertise d’universitaires, de chercheurs et de la société civile.

Soutenir les efforts des chercheurs et des universitaires visant à mieux comprendre, à prévenir et à combattre les contenus terroristes et extrémistes violents en ligne, notamment leurs effets en ligne et hors ligne.

Assurer une coopération adéquate avec les services de police et de justice et entre ces services à des fins d’enquête et de poursuite concernant des activités illégales en ligne s’agissant de contenus terroristes et extrémistes violents détectés et/ou retirés, de manière compatible avec l’état de droit et la protection des droits de l'Homme.

Soutenir les petites plateformes dans leurs efforts pour renforcer leur capacité à retirer les contenus terroristes et extrémistes violents, notamment grâce au partage de solutions techniques et de bases de données pertinentes d’empreintes numériques ou d’autres documents pertinents, comme la base de données partagée du Forum mondial de l’Internet contre le terrorisme (GIFCT).

Coopérer avec les pays partenaires et les soutenir dans l’élaboration et la mise en œuvre de bonnes pratiques en matière de prévention de la diffusion de contenus terroristes et extrémistes violents en ligne, notamment à travers une coordination opérationnelle et des échanges d’informations fiables dans le respect de la réglementation pertinente en matière de protection des données et de la vie privée.

Élaborer des procédures permettant aux gouvernements et aux fournisseurs de services en ligne de réagir rapidement, efficacement et de manière coordonnée à la diffusion de contenus terroristes et extrémistes violents à la suite d’un événement terroriste. Cela peut nécessiter la mise en place de protocoles de crise communs et de procédures de partage d’informations, de manière compatible avec la protection des droits de l’Homme.

Respecter, et pour les gouvernements, protéger, les droits de l’Homme, notamment en évitant de contribuer directement ou indirectement à des atteintes aux droits de l'Homme dans le cadre d’activités professionnelles, et en luttant contre de telles atteintes lorsque ces dernières ont lieu.

Reconnaître le rôle important de la société civile, qui soutient les actions portant sur les sujets et engagements contenus dans le présent Appel, notamment :

• en proposant des conseils d’experts sur la mise en œuvre des engagements du présent Appel de manière compatible à la fois avec un Internet libre, ouvert et sûr et avec le droit international des droits de l’Homme ;
• en œuvrant, y compris avec les gouvernements et les fournisseurs de services en ligne, pour améliorer et renforcer la transparence ;
• en agissant le cas échéant pour soutenir les utilisateurs dans leurs dépôts de plainte et dans les procédures de réclamation.

Affirmer notre volonté de continuer à agir conjointement dans les enceintes existantes et les organisations, institutions, mécanismes et processus pertinents pour nous entraider, susciter un élan en faveur de l’Appel et élargir l’adhésion à celui-ci.

Mettre en place et soutenir une série d’initiatives concrètes, sans doublon, afin de s’assurer que cet engagement soit respecté et suivi d’effets.

Tenir compte du fait que les gouvernements, les fournisseurs de services en ligne et la société civile peuvent souhaiter prendre d’autres mesures concertées pour faire face à un spectre plus large de contenus en ligne dangereux ; comme celles qui seront discutées plus en détail au cours du Sommet du G7 de Biarritz, dans le cadre du G20, dans le cadre du processus d’Aqaba, lors de la réunion ministérielle des cinq pays et dans plusieurs autres enceintes.