ਜਿਸ ਆਸਾਨੀ ਨਾਲ ਨਕਲੀ ਬੁੱਧੀ ਗਲਤ ਜਾਣਕਾਰੀ ਪੈਦਾ ਕਰ ਸਕਦੀ ਹੈ, ਇਸ ਦੇ ਮੱਦੇਨਜ਼ਰ ਵੱਡੇ ਖ਼ਤਰੇ ਹਨ / AI Image

ਡੀਪਫੇਕ ਜਨਰੇਟਿਵ AI ਨਾਲ ਜੁੜੀ ਤਕਨੀਕ ਹੈ, ਜਿਸ ਦਾ ਸਭ ਤੋਂ ਜ਼ਿਆਦਾ ਦੁਰਉਪਯੋਗ ਹੋ ਰਿਹਾ ਹੈ। ਵਰਤਮਾਨ ਵਿੱਚ, ਕਈ ਤਰ੍ਹਾਂ ਦੇ ਵੀਡੀਓ, ਚਿੱਤਰ ਅਤੇ ਆਵਾਜ਼ਾਂ ਨੂੰ ਬਦਲ ਕੇ ਵਿਅਕਤੀ ਦੀ ਸ਼ਾਨ ਅਤੇ ਨਿੱਜਤਾ ਨੂੰ ਠੇਸ ਪਹੁੰਚਾ ਰਹੇ ਹਨ। ਅਮਰੀਕਾ ਦੀ ਉਪ ਰਾਸ਼ਟਰਪਤੀ ਕਮਲਾ ਹੈਰਿਸ ਦੀ ਇੱਕ ਡੀਪਫੇਕ ਵੀਡੀਓ ਸੋਸ਼ਲ ਮੀਡੀਆ ਪਲੇਟਫਾਰਮ 'ਤੇ ਵਾਇਰਲ ਹੋ ਰਹੀ ਹੈ। 

 

ਡੀਪਫੇਕ, ਹੈਰਿਸ ਦੁਆਰਾ ਹਾਵਰਡ ਯੂਨੀਵਰਸਿਟੀ ਵਿੱਚ ਦਿੱਤੇ ਭਾਸ਼ਣ ਦੇ ਨਾਲ ਟਿੱਕਟੋਕ 'ਤੇ ਪ੍ਰਸਾਰਿਤ ਆਡੀਓ ਦਾ ਸੁਮੇਲ ਹੈਰਿਸ ਦਾ ਮਜ਼ਾਕ ਉਡਾਉਣ ਲਈ ਵਰਤਿਆ ਗਿਆ ਹੈ। ਪੂਰੇ ਤੱਥ ਨੇ ਦੱਸਿਆ ਕਿ ਇਸ ਵੀਡੀਓ ਨੂੰ ਬਣਾਉਣ ਲਈ ਆਰਟੀਫਿਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ (AI) ਦੀ ਵਰਤੋਂ ਕੀਤੀ ਗਈ ਹੈ।

ਐਥਨਿਕ ਮੀਡੀਆ ਸਰਵਿਸਿਜ਼ ਬ੍ਰੀਫਿੰਗ ਦੇ ਪੈਨਲਿਸਟਾਂ ਨੇ ਕਿਹਾ ਕਿ 2024 ਦੀਆਂ ਰਾਸ਼ਟਰਪਤੀ ਚੋਣਾਂ ਤੋਂ ਪਹਿਲਾਂ ਫੇਸਬੁੱਕ ਅਤੇ ਹੋਰ ਸੋਸ਼ਲ ਮੀਡੀਆ ਪਲੇਟਫਾਰਮ AI ਦੁਆਰਾ ਤਿਆਰ ਸਮੱਗਰੀ ਨਾਲ ਭਰੇ ਹੋਏ ਹਨ। ਉਦਾਹਰਨ ਲਈ, ਜਨਵਰੀ 2024 ਵਿੱਚ, ਨਿਊ ਹੈਂਪਸ਼ਾਇਰ ਦੇ ਵੋਟਰਾਂ ਨੂੰ ਰਾਸ਼ਟਰਪਤੀ ਬਾਈਡਨ ਦੇ ਇੱਕ AI-ਜਨਰੇਟ ਵੌਇਸ ਕਲੋਨ ਵਾਲੇ 'ਰੋਬੋਕਾਲ' ਪ੍ਰਾਪਤ ਹੋਏ, ਉਹਨਾਂ ਨੂੰ ਪੋਲਿੰਗ ਬੂਥ 'ਤੇ ਜਾਣ ਤੋਂ ਨਿਰਾਸ਼ ਕੀਤਾ ਗਿਆ।

ਪੈਨਲਿਸਟ ਬ੍ਰੈਂਡਨ ਸਿਲਵਰਮੈਨ, ਇੱਕ ਸਾਬਕਾ ਫੇਸਬੁੱਕ ਕਾਰਜਕਾਰੀ ਅਤੇ CrowdTangle ਦੇ ਸਹਿ-ਸੰਸਥਾਪਕ, ਨੇ ਕਿਹਾ ਕਿ ਅਸਲ ਅਤੇ ਜਾਅਲੀ ਖ਼ਬਰਾਂ ਵਿੱਚ ਫਰਕ ਕਰਨਾ ਪਹਿਲਾਂ ਨਾਲੋਂ ਕਿਤੇ ਵੱਧ ਮੁਸ਼ਕਲ ਹੁੰਦਾ ਜਾ ਰਿਹਾ ਹੈ। 

 

ਸਿਲਵਰਮੈਨ, ਜਿਸ ਨੇ ਪਿਛਲੇ ਸਮੇਂ ਵਿੱਚ ਖੁਲਾਸਾ ਕੀਤਾ ਹੈ ਕਿ ਫੇਸਬੁੱਕ ਉਪਭੋਗਤਾ ਸੋਸ਼ਲ ਮੀਡੀਆ ਪਲੇਟਫਾਰਮ 'ਤੇ ਰਾਜਨੀਤੀ ਅਤੇ ਗੁੰਮਰਾਹਕੁੰਨ ਸਿਹਤ ਜਾਣਕਾਰੀ ਨਾਲ ਜੁੜੇ ਹੋਏ ਹਨ, ਉਨ੍ਹਾਂ ਨੂੰ ਡਰ ਹੈ ਕਿ ਬਹੁਤ ਸਾਰੇ ਸੋਸ਼ਲ ਮੀਡੀਆ ਪਲੇਟਫਾਰਮਾਂ ਨੇ ਚੋਣ ਅਖੰਡਤਾ ਦੇ ਕੰਮ ਵਿੱਚ ਆਪਣਾ ਨਿਵੇਸ਼ ਘਟਾ ਦਿੱਤਾ ਹੈ। ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਦੇ ਨਾਲ ਵੱਡੇ ਖ਼ਤਰੇ ਹਨ, ਜਿਸ ਨਾਲ ਇਹ ਗਲਤ ਜਾਣਕਾਰੀ ਪੈਦਾ ਕਰ ਸਕਦੀ ਹੈ।

ਬ੍ਰੈਂਡਨ ਸਿਲਵਰਮੈਨ ਨੇ ਕਿਹਾ ਕਿ ਗਲਤ ਜਾਣਕਾਰੀ ਮੁਹਿੰਮਾਂ ਦਾ ਟੀਚਾ ਇੰਨੀ ਭਰੋਸੇਮੰਦ ਸਮੱਗਰੀ ਬਣਾਉਣਾ ਹੈ ਕਿ ਭਾਈਚਾਰਿਆਂ ਅਤੇ ਵੋਟਰਾਂ ਨੂੰ ਇਹ ਪਤਾ ਹੀ ਨਾ ਲੱਗੇ ਕਿ ਕਿਸ 'ਤੇ ਭਰੋਸਾ ਕਰਨਾ ਹੈ। ਸੈਂਟਰ ਫਾਰ ਕਾਉਂਟਰਿੰਗ ਡਿਜੀਟਲ ਹੇਟ ਦੀ ਇੱਕ ਤਾਜ਼ਾ ਰਿਪੋਰਟ ਵਿੱਚ ਖੁਲਾਸਾ ਹੋਇਆ ਹੈ ਕਿ ਜਨਰੇਟਿਵ AI ਅਦਾਕਾਰਾਂ ਨੂੰ ਤਸਵੀਰਾਂ, ਆਡੀਓ ਅਤੇ ਵੀਡੀਓ ਬਣਾਉਣ ਦੇ ਯੋਗ ਬਣਾ ਰਿਹਾ ਹੈ ਜੋ ਉਹਨਾਂ ਦੇ ਝੂਠ ਨੂੰ ਲਗਭਗ ਮੁਫਤ ਵਿੱਚ ਬੇਮਿਸਾਲ ਪੈਮਾਨੇ ਅਤੇ ਪ੍ਰੇਰਣਾ ਨਾਲ ਪ੍ਰਗਟ ਕਰਦੇ ਹਨ। ਇਹ ਰਿਪੋਰਟ ਦਰਸਾਉਂਦੀ ਹੈ ਕਿ AI-ਵੌਇਸ ਕਲੋਨਿੰਗ ਟੂਲ... ਚੋਣਾਂ ਵਿੱਚ ਦੁਰਵਰਤੋਂ ਲਈ ਖੁੱਲ੍ਹੇ ਹਨ।

CCDH ਦੇ ਸੀਈਓ ਇਮਰਾਨ ਅਹਿਮਦ ਨੇ ਕਿਹਾ, 'ਕੁਝ ਸਭ ਤੋਂ ਪ੍ਰਸਿੱਧ AI-ਪਾਵਰਡ ਵੌਇਸ ਕਲੋਨਿੰਗ ਟੂਲ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਆਸਾਨੀ ਨਾਲ ਸਿਆਸੀ ਨੇਤਾਵਾਂ ਦੀ ਨਕਲ ਕਰਨ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦੇ ਹਨ। ਇਹਨਾਂ ਸਾਧਨਾਂ ਲਈ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਦੀ ਇੰਨੀ ਬੁਰੀ ਤਰ੍ਹਾਂ ਘਾਟ ਹੈ ਕਿ ਇਹਨਾਂ ਪਲੇਟਫਾਰਮਾਂ ਨੂੰ ਖਤਰਨਾਕ ਸਿਆਸੀ ਗਲਤ ਜਾਣਕਾਰੀ ਪੈਦਾ ਕਰਨ ਲਈ ਲਗਭਗ ਕੋਈ ਵੀ ਆਸਾਨੀ ਨਾਲ ਹੇਰਾਫੇਰੀ ਕਰ ਸਕਦਾ ਹੈ।' 

 

"ਬਹੁਤ ਵਾਰ, ਮੀਡੀਆ ਜਾਣਕਾਰੀ ਈਕੋਸਿਸਟਮ ਵਿੱਚ ਭਰੋਸੇਯੋਗ ਸਰੋਤ ਗਲਤ ਜਾਣਕਾਰੀ ਦੇ ਸਭ ਤੋਂ ਮਹੱਤਵਪੂਰਨ ਪ੍ਰਸਾਰਕ ਹੁੰਦੇ ਹਨ," ਸਿਲਵਰਮੈਨ ਨੇ ਬ੍ਰੀਫਿੰਗ ਵਿੱਚ ਕਿਹਾ।

"ਪਿਛਲੇ 12 ਮਹੀਨਿਆਂ ਵਿੱਚ ਅਸੀਂ ਸਾਰੇ ਪ੍ਰਮੁੱਖ ਚੀਨੀ-ਭਾਸ਼ਾ ਦੇ ਸੋਸ਼ਲ ਮੀਡੀਆ ਵਿੱਚ ਗਲਤ ਜਾਣਕਾਰੀ ਦੇ 600 ਤੋਂ ਵੱਧ ਹਿੱਸਿਆਂ ਦਾ ਦਸਤਾਵੇਜ਼ੀਕਰਨ ਕੀਤਾ ਹੈ," ਚਾਈਨਾ ਡਿਜੀਟਲ ਸ਼ਮੂਲੀਅਤ ਦੇ ਪ੍ਰੋਗਰਾਮ ਮੈਨੇਜਰ, ਜਿਨਕਸਿਆ ਨੀਯੂ ਨੇ ਬ੍ਰੀਫਿੰਗ ਦੌਰਾਨ ਕਿਹਾ।

 

"ਗਲਤ ਸਮੱਗਰੀ ਨੂੰ ਅੰਗਰੇਜ਼ੀ ਮੁੱਖ ਧਾਰਾ ਮੀਡੀਆ ਵਿੱਚ ਤੱਥਾਂ ਨਾਲ ਜਾਂਚਿਆ ਜਾ ਸਕਦਾ ਹੈ ਅਤੇ ਡੀਬੰਕ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ," ਨੀਯੂ ਨੇ ਕਿਹਾ। ਪਰ ਉਹਨਾਂ ਦੇ ਅਨੁਵਾਦਿਤ ਸੰਸਕਰਣ, ਚੀਨੀ ਵਿੱਚ, ਅਣਅਨੁਵਾਦਿਤ ਰਹਿੰਦੇ ਹਨ। ਸਾਡੇ ਕੋਲ ਸਮੱਗਰੀ ਦੇ ਹਰੇਕ ਹਿੱਸੇ ਨੂੰ ਸਕ੍ਰੀਨ ਕਰਨ ਦੀ ਸਮਰੱਥਾ ਨਹੀਂ ਹੈ, ਖਾਸ ਤੌਰ 'ਤੇ AI ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੀ ਸਮੱਗਰੀ ਦੀ ਮਾਤਰਾ ਨਾਲ।

ਇਹ ਗਲਤ ਜਾਣਕਾਰੀ ਇਨਕ੍ਰਿਪਟਡ ਮੈਸੇਜਿੰਗ ਐਪਸ ਜਿਵੇਂ ਕਿ ਭਾਰਤੀ ਅਮਰੀਕਨਾਂ ਲਈ WhatsApp ਅਤੇ ਯੂਰਪੀਅਨ, ਅਫਰੀਕੀ ਅਤੇ ਏਸ਼ੀਆਈ ਲੋਕਾਂ ਲਈ ਟੈਲੀਗ੍ਰਾਮ 'ਤੇ ਪ੍ਰਭਾਵਕਾਂ, ਦੋਸਤਾਂ ਅਤੇ ਪਰਿਵਾਰ ਦੁਆਰਾ ਸਾਂਝੀਆਂ ਕੀਤੀਆਂ ਪੋਸਟਾਂ ਰਾਹੀਂ ਫੈਲਦੀ ਹੈ। ਚੀਨੀ ਅਮਰੀਕਨਾਂ ਲਈ WeChat ਅਤੇ ਕੋਰੀਅਨ ਅਤੇ ਜਾਪਾਨੀ ਅਮਰੀਕੀਆਂ ਲਈ ਸਿਗਨਲ ਵਰਗੀਆਂ ਹੋਰ ਐਪਾਂ ਉਹ ਹਨ, ਜਿੱਥੇ ਉਹਨਾਂ ਨੇ ਗਲਤ ਜਾਣਕਾਰੀ ਫੈਲਦੀ ਵੇਖੀ ਹੈ।

ਨੀਯੂ ਨੇ ਕਿਹਾ ਕਿ ਇਹ ਨਿੱਜੀ ਚੈਟਾਂ ਬੇਕਾਬੂ, ਅਣਸੈਂਸਰ ਕੀਤੇ ਜਨਤਕ ਪ੍ਰਸਾਰਣ ਵਾਂਗ ਬਣ ਜਾਂਦੀਆਂ ਹਨ ਜਿਨ੍ਹਾਂ ਦੀ ਤੁਸੀਂ ਨੇਕ-ਇਰਾਦੇ ਵਾਲੇ ਡੇਟਾ ਅਤੇ ਗੋਪਨੀਯਤਾ ਸੁਰੱਖਿਆ ਦੇ ਕਾਰਨ ਨਿਗਰਾਨੀ ਜਾਂ ਦਸਤਾਵੇਜ਼ ਨਹੀਂ ਕਰ ਸਕਦੇ ਹੋ। ਇਹ ਅਜਿਹੀ ਸਥਿਤੀ ਹੈ ਜਿੱਥੇ ਜਾਅਲੀ ਅਤੇ ਖ਼ਤਰਨਾਕ ਜਾਣਕਾਰੀ ਵਿੱਚ ਦਖ਼ਲ ਦੇਣਾ ਮੁਸ਼ਕਲ ਹੈ। ਕੈਲੀਫੋਰਨੀਆ ਕਾਮਨ ਕਾਜ਼ ਦੇ ਕਾਰਜਕਾਰੀ ਨਿਰਦੇਸ਼ਕ ਜੋਨਾਥਨ ਮਹਿਤਾ ਸਟੀਨ ਨੇ ਕਿਹਾ ਕਿ 'ਐਕਸ ਅਤੇ ਫੇਸਬੁੱਕ 'ਤੇ ਸਿਵਲ ਬਹਿਸ ਚੱਲ ਰਹੀ ਹੈ।'