Mae papur trafod newydd, a gyhoeddwyd gan Ofcom heddiw, yn edrych ar y gwahanol adnoddau a thechnegau y gellir eu defnyddio i adnabod ffugiadau dwfn.
Mae ffugiadau dwfn yn cyfeirio at fideos, lluniau a chynnwys sain sydd wedi eu creu gan ddeallusrwydd artiffisial gyda’r bwriad o edrych yn real. Maent yn bygwth diogelwch ar-lein, ac rydym eisoes wedi gweld y dechnoleg yn cael ei defnyddio mewn sgamiau ariannol, i greu delweddau rhywiol o bobl heb gydsyniad, ac i rannu twyllwybodaeth am wleidyddion.
Ym mis Gorffennaf eleni, fe wnaethom ni gyhoeddi ein papur cyntaf ar fesurau amddiffyn rhag ffugiadau dwfn, Deepfake Defences , ac mae’r papur sydd wedi ei gyhoeddi heddiw yn trafod rhinweddau’r pedwar ‘mesur priodoli’ â mwy o fanylder: marciau dŵr, tarddiad metadata, labeli Deallusrwydd Artiffisial, a chynnwys anodedig. Mae’r pedwar mesur hwn wedi eu dylunio i roi gwybodaeth ynghylch sut y mae cynnwys sydd wedi ei greu gan ddeallusrwydd artiffisial wedi cael ei gynhyrchu, ac –mewn rhai achosion – yn awgrymu a yw’r cynnwys yn gywir neu’n gamarweiniol.
Daw’r papur hwn yn dilyn ein hymchwil newydd a ganfu fod 85% o oedolion yn cefnogi llwyfannau ar-lein sydd yn rhoi labeli Deallusrwydd Artiffisial ar gynnwys, er mai dim ond tua un mewn tri (34%) ohonynt oedd wedi gweld llwyfan yn gwneud hynny.
Cryfderau a gwendidau mesurau priodoli
Gan ddefnyddio ein hymchwil defnyddwyr newydd, cyfweliadau gydag arbenigwyr, adolygiad llenyddiaeth, a thri dehongliad technegol o offer marciau dŵr ffynonellau agored, mae ein papur trafod diweddaraf yn asesu rhinweddau a chyfyngiadau’r mesurau hyn wrth adnabod ffugiadau dwfn.
Mae ein gwerthusiad yn dod i wyth prif gasgliad, a dylai’r rhain roi arweiniad i’r diwydiant, i’r llywodraeth ac i ymchwilwyr:
- Mae tystiolaeth yn dangos bod y mesurau priodoli, pan fyddan nhw’n cael eu defnyddio â gofal i asesu’n briodol, yn gallu helpu defnyddwyr i ymgysylltu â chynnwys mewn ffordd fwy beirniadol.
- Ni ddylai defnyddwyr orfod adnabod ffugiadau dwfn ar eu pen eu hunain, a dylai llwyfannau geisio osgoi rhoi’r baich i gyd ar yr unigolion i sylwi ar gynnwys camarweiniol.
- Mae cael y cydbwysedd cywir rhwng cadw pethau’n syml ar un llaw a manylder ar y llaw arall yn hanfodol wrth drafod Deallusrwydd Artiffisial gyda defnyddwyr.
- Mae angen i fesurau priodoli fod yn addas i’w defnyddio ar gyfer cynnwys nad yw’n gwbl real na synthetig, gan roi gwybod i ddefnyddwyr sut y mae Deallusrwydd Artiffisial wedi cael ei ddefnyddio i greu’r cynnwys, nid nodi a yw wedi ei ddefnyddio neu beidio yn unig.
- Gellir dileu a chamddefnyddio mesurau priodoli. Mae ein profion technoleg yn dangos y gellir cael gwared â marciau dŵr oddi ar gynnwys drwy ddilyn canllawiau golygu syml.
- Byddai gwella’r prosesau safoni ar gyfer pob mesur priodoli unigol yn gallu gwneud y mesurau hyn yn fwy effeithlon ac annog mwy o bobl i’w defnyddio.
- Mae cyflymdra’r newid yn golygu y byddai’n annoeth gwneud datganiadau mawr am fesurau priodoli.
- Dylai mesurau priodoli gael eu defnyddio ar y cyd ag ymyriadau eraill i fynd i'r afael â ffugiadau dwfn; mae’r mesurau hyn yn cynnwys dosbarthwyr deallusrwydd artiffisial a mecanweithiau adrodd.
Nid yw'r mesurau priodoli a drafodir yn y papur hwn yn rheolau newydd nac yn ddisgwyliadau ar gwmnïau technolegol, ond gall y rhai sy’n defnyddio’r adnoddau hyn ddefnyddio ein canfyddiadau i’w helpu i adnabod cynnwys ffugiadau dwfn. Bydd y gwaith ymchwil hwn hefyd yn llywio datblygiad ein polisïau a’r ffordd mae ein gwasanaethau rheoleiddio yn cael eu goruchwylio dan y Ddeddf Diogelwch Ar-lein.