मनुष्यों की आवाज़ निकालने वाली जनरेटिव एआई

अमरीकी कंपनी ओपनएआई का कहना है कि उसने एक ऐसी जनरेटिव एआई तकनीक विकसित की है जो किसी व्यक्ति की आवाज़ के संक्षिप्त नमूने से उसकी आवाज़ की नक़ल कर सकती है।

ओपनएआई ने शुक्रवार को अपने नव-विकसित एआई "वॉयस इंजन" का अनावरण किया।

कंपनी का कहना है कि "वॉयस इंजन" में किसी व्यक्ति की आवाज़ का 15 सेकंड का ऑडियो सैंपल और कुछ वाक्य डाले जाते हैं, जिसके बाद "वॉयस इंजन" इन वाक्यों को उस व्यक्ति से मिलती-जुलती आवाज़ में पढ़ता है।

कंपनी के अनुसार यह नया मॉडल एआई द्वारा उत्पन्न आवाज़ में पढ़े गये वाक्यों का विदेशी भाषाओं में अनुवाद भी कर सकता है। ख़बर है कि ऐसा करते हुए यह मॉडल मूल वक्ता के मूल उच्चारण को बनाये रखता है।

ओपनएआई का कहना है कि यह तकनीक उन लोगों की मदद कर सकती है, जिन्हें किसी बीमारी या अन्य कारणों से बोलने में परेशानी होती है।

लेकिन चिंता व्यक्त की जा रही है कि इस तरह के चैटबॉट का इस्तेमाल चुनावी अभियानों के दौरान या अन्य परिस्थितियों में फ़र्ज़ी जानकारी फैलाने में किया जा सकता है।

ओपनएआई का कहना है, "हम मानते हैं कि एआई तकनीक से लोगों की आवाज़ से मिलती-जुलती आवाज़ निकालने के गंभीर जोख़िम हैं, जो विशेष रूप से इस चुनावी वर्ष में चिंता का एक गंभीर विषय है।"

संभावित जोख़िमों को देखते हुए कंपनी का कहना है कि फ़िलहाल उसकी इस तकनीक को व्यापक रूप से जारी करने की कोई योजना नहीं है। उसका कहना है कि इस तकनीक का दुरुपयोग रोकने के लिए उसे अभी कई क़दम उठाने होंगे। कंपनी ने मशहूर हस्तियों की आवाज़ों की नक़ल के दुरुपयोग का उदाहरण दिया।