Фамилия является старинным вариантом фамилии МАЛИНОЙ, и обе могут восходить к церковнославянским именам Мал и Малей, что наглядно просматривается на этимологических цепочках их образования (см. МАЛИНОЙ): 

МАЛЕНОЙ < МАЛИНОЙ < Мала < Мал;

МАЛЕНОЙ < МАЛИНОЙ < Мала < Мал < Малей.

Зачастую слог -ин- в фамилиях на -иной/-иный выступает в безударном положении, что могло повлечь к смене его на -ен-: безударные е и е звучат почти одинаково, что не отражено в орфографии. Поэтому многие фамилии с конечным элементом -иной/-иный обнаруживают фонетических двойников на -еной/-еный.   

Ударение в таких фамилиях обычно совпадает с правилом современного русского языка для прилагательных: -ой – всегда ударный, -ый – безударный. И всё же ударение в фамилии лучше уточнить у её носителя.

Женская форма фамилии – МАЛЕНАЯ.

МАЛЕНОЙ Яков Петрович.

Участник Великой Отечественной войны.

Читать по теме:

 - См. Библиография. 2. Стр. 148, 149.

 - См. Библиография. 4. Стр. 163.

 - См. Библиография. 5. Стр. 72.

- См. Происхождение фамилий.2., 2.2., 2.2.1., 2.2.1.3., 4., 4.1., 4.1.8.