Asi to máš i na hraní her co?
Procesor můžeš klidně ponechat ten Ryzen, GPU bych ti pro transcode a tvé programy doporučil GPU nvidia s podporu CUDA a NVEnc encoder třeba RTX 2060.

PS : CPU a GPU jsou vhodné pro rozdílné výpočty, kdyby ti mělo CPU dělat výpočty poligonu tak se nedočkáš.
Kdyby jsi to nepotřeboval na hry, tak by to pro nějaké domácí rendovani šlo udělat podstatně levnější.