Record STMT-WE7F319Soft law

Principles for responsible, trustworthy and privacy-respecting generative artificial intelligence (AI) technologies

Principes pour des technologies de l’intelligence artificielle (IA) générative responsables, dignes de confiance et respectueuses de la vie privée

Principles State lawNorthern America · CAadopted

This document outlines key privacy principles for responsible, trustworthy, and privacy-respecting generative artificial intelligence technologies. Issued by the Office of the Privacy Commissioner of Canada along with provincial counterparts, it guides developers, providers, and users on applying privacy laws to generative AI. The framework addresses areas such as lawful authority, appropriate purposes, necessity and proportionality, transparency, accountability, and accuracy.

Summary and content fields are drawn from the document text and are pending editorial review.

Who issued it

Commissariat à la protection de la vie privée du CanadaRegulator · CA

Lead issuer

Legal forceSoft law

Under whose authorityState law

Judged fromfull text

Who it governs

AI developers and providersRegulatorsCompaniesAI deployers and usersResearchers and academics

This document is for organizations that develop, provide, or use generative AI systems to help them implement Canadian privacy principles.

Sectors

Cross-sector

What the document contains

What's covered

The document covers data protection principles and obligations for developers, suppliers, and users of generative AI systems. It details considerations for legal authority, consent, data minimization, accuracy, security safeguards, and transparency under Canadian privacy laws.

What's missing

The document does not provide binding legal rulings, specific financial penalties, or a complete compliance checklist for every sector outside of privacy requirements.

Key takeaways

Generative AI technologies are subject to existing Canadian privacy legislative frameworks.
Organizations developing or using generative AI must ensure valid consent and lawful authority for collecting personal data.
Vulnerable groups, particularly children and historically discriminated populations, require special protective measures against potential AI harms.
Developers and users must implement robust transparency, accountability, and data minimization practices throughout the AI lifecycle.
Organizations must establish adequate safeguards against threats such as prompt injection, model inversion, and jailbreaking.

Principles it states

Pouvoir légal et consentementFins appropriéesNécessité et proportionnalitéTransparenceResponsabilitéAccès aux renseignements personnelsLimitation de la collecte, de l’utilisation et de la communication des renseignementsExactitudeMesures de protection

Outline

· À propos du présent document
· Public cible du présent document
· Considération spéciale : L’incidence particulière sur les groupes vulnérables
· Principes pour le développement, l’offre et l’utilisation de systèmes d’ IA générative
  1. Pouvoir légal et consentement
  2. Fins appropriées
  3. Nécessité et proportionnalité
  4. Transparence
  5. Responsabilité
  6. Accès aux renseignements personnels
  7. Limitation de la collecte, de l’utilisation et de la communication des renseignements
  8. Exactitude
  9. Mesures de protection

Issued7 December 2023

Length6,115 words

FormatNot recorded

Scopenational

How it scores

Pending review

Each score is backed by a quote verified against the document text. Editorial review has not yet confirmed them.

Accountability

4/5

Clear responsibility for AI outcomes

reconnaître qu’elles sont responsables de la conformité aux lois sur la protection de la vie privée et devraient être en mesure de démontrer cette conformité

5. Responsabilité

screening score · 2026-10-23

Fairness

4/5

Non-discrimination and equitable treatment

Les développeurs, les fournisseurs et les organisations qui utilisent des systèmes d’ IA générative doivent tous travailler activement à assurer l’équité de ces systèmes.

Considération spéciale : L’incidence particulière sur les groupes vulnérables

screening score · 2026-10-23

Human Dignity

3/5

Respect for the inherent worth of persons

pour bâtir et maintenir une société numérique dans laquelle l’innovation est socialement bénéfique et la dignité humaine est protégée

Introduction

screening score · 2026-10-23

Human Oversight

4/5

Humans remain in control of consequential decisions

permettre de demander une révision ou un réexamen par un être humain de la décision

5. Responsabilité

screening score · 2026-10-23

Privacy

5/5

Protection of personal data and private life

Dans le présent document, nous cernons les considérations relatives à l’application des principes clés de protection de la vie privée aux technologies d’ IA générative

À propos du présent document

screening score · 2026-10-23

Transparency

4/5

Openness about how AI systems work and are used

informer les personnes des renseignements personnels sur lesquels porte la collecte ainsi que du moyen, du moment et de la raison pour laquelle ils sont recueillis

4. Transparence

screening score · 2026-10-23

Enforcement

1/5

Consequences and compliance mechanisms with real force

ne lient pas les enquêtes ou les décisions spécifiques des commissaires fédéral, provinciaux ou territoriaux à la protection de la vie privée du Canada

À propos du présent document

screening score · 2026-10-23

Impact Assessment

4/5

Required assessment of an AI system's risks/impacts before or during use

entreprendre des évaluations, comme des évaluations des facteurs relatifs à la vie privée ( EFVP ) ou des évaluations de l’incidence algorithmique ( EIA ), afin de cerner et d’atténuer les répercussions potentielles

5. Responsabilité

screening score · 2026-10-23

Topics

generative_ai privacy data_protection consent accountability transparency