Z tvého dotazu vůbec není jasné co chceš a co můžeš.

Netuším co je to: spuštěný program, ale neaktivní

Slovo aktivní se ve smyslu programu, respektive okna programu, používá ve smyslu aktivního okna, tedy pokud je okno obvykle nad ostatními a má fokus.

Je jedno jestli je okno programu aktivní nebo ne, důležité je, aby bylo viditelné.

Screenshot viditelného okna se dá udělat např. v Autoitu jednoduše takto:

#include <ScreenCapture.au3>
_ScreenCapture_CaptureWnd("screenshot.png", WinGetHandle("[CLASS:Notepad++]"))

Toto udělá screenshot i neaktivního viditelného okna programu Notepad++ a uloží ho do souboru screenshot.png

Odeslat mailem se takový soubor dá Autoitem taky, Autoit má mail i smtp funkce, záleží jakým způsobem to chceš poslat, návody jsou na netu např. na poslání přes Google mail.