Deine HW-Ausrüstung ist schon mal gar nicht schlecht und genügt - eigentlich - locker selbst 4K/UHD-Anforderungen. Aber Dein Problem ist, wie Du schon selbst erkannt hast, die große Anzahl extrem rechenintensiver Effekte, sofern sie auch noch gleichzeitig eingesetzt werden. Die zwingen selbst den recht flotten QuickSync-Algorythmus gnadenlos in die Knie. Weiterhin kommt sozusagen "erschwerend" hinzu, dass Vdl etwas "unsauber" programmiert ist in der Form, dass beim Encodieren die Kerne und Threads der CPU nicht zu 100% genutzt werden bzw. die iGPU bei deren voller Auslastung seitens der CPU nur "halbherzig" unterstützt wird – etwas "sportlich" ausgedrückt jedenfalls. Das kannst Du z. B. während des Encodiervorgangs ganz einfach mit einem Auslesetool wie CPU-Z, HWInfo usw. auslesen. Die iGPU läuft auf 100%, die restlichen Kerne der CPU aber kumuliert auf vielleicht nur 40-60% - zumindest ist das bei mir der Fall, siehe Signatur. Da wird m. E. jede Menge Rechenpotential verschenkt. Und auch diverse Testberichte in der entsprechenden Fachliteratur bescheinigen Vdl eine eher beischeidenere Performance beim Encodieren.

Zu Deinem nächsten Problem: Nach meiner Erfahrung, die aber natürlich keineswegs Allgemeingültigkeit besitzt, kommt es (bei Vdl) in erster Linie auf die Taktfrequenz an. Je höher, desto besser. Wie bereits in dem Absatz oben erwähnt, arbeitet die iGPU sozusagen als "einzelner Kern" und die restlichen CPU-Kerne unterstützen dann so lala. Erhöht man die CPU-Frequenz um z. B. 10%, dann wird auch der Film um rund 10% schneller encodiert, wobei es allerdings auch hier gewisse Grenzen nach oben und unten gibt, denn die iGPU läuft auf einer eigenen Frequenz (beim i7 6700 sind es 0,34-1,15 GHz), unabhängig von der eingestellten CPU-Taktrate. Hättest Du ein Mainboard mit Z-Chipsatz, dann könntest Du sowohl die CPU als auch die iGPU jeweils separat übertakten, aber das Thema Overclocking ist nicht mal so schnell nebenbei erklärt und erfordert auch gewisse Kenntnisse. Also weg damit an dieser Stelle.

Ob Dir eventuell eine z. B. GTX 1070 was nützt? Da bin ich raus an dieser Stelle und kann Dir nur folgendes sagen: Standardmäßig setzt Vdl auf den Intel-Codec, also QuickSync. Willst Du Cuda nutzen, dann musst Du den Mainconcept-Codec installieren, allerdings ist der MC, den Magix anbietet, inzwischen veraltet und ich weiß nicht, ob dieser noch noch aktuelle GTX-Karten der 10er- oder gar 20er-Serie unterstützt. So weit ich weiß, wird Cuda nur in Verbindung mit max. Vdl 2016 und einer GTX der 9er-Serie unterstützt, aber dieses Thema ist derart komplex und (für mich) unübersichtlich, da möge dann bitte ein entsprechender Experte was zu sagen. Ich halte mich diesbezüglich an das Motto: "Und wenn man keine Ahnung hat, einfach mal die Klappe halten" – Nix für ungut.

Was Deine nächste Frage betrifft, ob Intel oder AMD besser ist: Pah, denn dazu gibt es keine Testergebnisse. Möglicherweise wird ein derzeit rund 1.800 Euro teurer Threadripper 2990WX (also logischerweise ohne QS-Support) einen ebenfalls aktuellen i9 9900K (also mit QS) schlagen, aber wenn denn ja, um wieviel? Werden derart viele physische Kerne und Threads (32/64) seitens Vdl überhaupt unterstützt? Abhängig von der eingesetzten dedizierten GPU kann das Häkchen bei "Effekte auf GPU berechnen" den Encodierprozess sogar noch verlangsamen. Aus eigener Erfahrung kann ich Dir sagen, dass dies bei mir (siehe Signatur) auf jeden Fall der Fall ist, wobei ich seinerzeit auch mal eine GTX 1060 verbaute hatte, die aber ebenfalls keinerlei Geschwindigkeitsvorteile brachte (im Gegenteil) und ich sie deshalb verkauft und gegen eine popelige GT 1030 getauscht habe.

Um jetzt auf den Punkt zu kommen: Bei der Anzahl gleichzeitig (also quasi überlagernd) verwendeter, extremst rechenintensiver Effekte, da brauchst Du m. E. schon eine sehr potente Video-Workstation, wenn der Film dann in vielleicht 1:1-Zeit encodiert werden soll. Wenn ich auf meinem System (siehe Signatur) ein FHD-50p-Video mit so "einfachen" Effekten wie Autobelichtung, Schärfe, Bildüberlagerung, Keyframes für andere Effekte und Stanzform, Zoomeffekte versehe, dann liegt die Encodierzeit ebenfalls gaaanz schnell locker mal min. beim Faktor 1:3 oder 1:4, trotz eines um fast 18% übertakteten i7 6700K, der sich daher gewiss ganz locker mit einem i7 7700 oder teilweise auch i7 8700 messen kann. Von daher wundert es mich nicht, dass Dein System unter den genannten Voraussetzungen beim Faktor 1:18 bis 1:24 liegt. Installiere aber bitte mal den aktuellen Intel-Treiber für Deine CPU/iGPU. Der bringt nochmal ein paar Prozent. Aber wenn Du mit den gleichen Effekten dann auch noch auf 4K/UHD umsteigen möchtest... 😮 Hast Du schon mal an den Kauf eines eigenen Rechenzentrums gedacht? 😉

Auch andere Faktoren spielen eine Rolle: Welche Windows-Version nutzt Du? Sind alle Treiber aktuell? Fragen über Fragen... 😏