Bohužel - to, že nějaký problém lze definovat jednoduše, ještě neznamená, že jeho řešení je také jednoduché (viz třeba kvadratura kruhu).
I když velmi často tvrdím, že v Excelu jde udělat (téměř) vše, u tohoto problému na nějakou jednoduchou grafickou metodu zapomeň, graf prostě neví, že určité body tvoří mnohoúhelník, takže není možné přímo z grafu určit, zda je bod uvnitř či vně určitého mnohoúhelníku.
Nicméně Tvůj problém se řeší poměrně často, patří do skupiny tzv. geometrického vyhledávání, takže algoritmy pro něj existují, pouze by sis je musel napsat do vlastního makra. Pro inspiraci si projdi třeba tyto materiály:
Výpočetní gemotrie
Geometrické vyhledávání