Фамилия является старинным вариантом фамилии ПЕНСКИЙ, и обе восходят к церковнославянским именам: мужскому Пен и женскому Пе́на (см. ПЕНСКИЙ). В старину окончание в прилагательных в именительном падеже единственного числа мужского рода с основой на твёрдый согласный писали -ой как под ударением, так и без ударения. Но со временем это окончание сохранилось только под ударением, в безударном же состоянии его вытеснили окончания -ый, -ий. Однако в наше время многие фамилии на -ский, отражающие требования правописания современного русского языка, обнаруживают двойников  со старинным -ской.      

Правила современного русского языка требуют в прилагательных на -ой ставить ударение на последний слог, и фамилии, по происхождению своему являющиеся прилагательными, должны этому следовать. Но лучше ударение в фамилии уточнить у её носителя.  

Женская форма фамилии – ПЕНСКАЯ.

ПЕНСКОЙ  Фёдор Дмитриевич.

Кавалер Ордена Отечественной войны I степени.

Читать по теме:  

- См. Библиография. 4. Стр. 203, 350.

 - См. Библиография. 5. Стр. 72.

- См. Происхождение фамилий. 2.2., 2.2.2., 2.2.2.4., 3.1.