祖父何秀山為紹派傷寒名家,何廉臣從小打下了良好的醫(yī)學(xué)基礎(chǔ)。后經(jīng)兩次鄉(xiāng)試失利,最終棄儒而專志于醫(yī)。起初,他從同邑沈蘭垞、嚴(yán)繼春、沈云臣等醫(yī)家研習(xí)醫(yī)理。之后,又隨名醫(yī)樊開周臨證三年。后曾離紹出游訪道,先后到蘇州、上海等地訪求名家。1886年,何廉臣來(lái)到蘇州,客居一年。此間,他與設(shè)診于吳門的紹興名醫(yī)趙晴初(1823~1895)結(jié)為忘年交,一起探討浙東風(fēng)土民情。此后,何氏曾在上海留居三年,與丁福保、周雪樵、蔡小香等滬上名醫(yī)來(lái)往密切。20世紀(jì)初,何廉臣積極參與創(chuàng)建我國(guó)早期中醫(yī)學(xué)術(shù)團(tuán)體等醫(yī)界社會(huì)活動(dòng)。先后曾任中國(guó)醫(yī)學(xué)會(huì)副會(huì)長(zhǎng),紹興醫(yī)學(xué)會(huì)會(huì)長(zhǎng),神州醫(yī)藥總會(huì)外埠評(píng)議員,神州醫(yī)藥總會(huì)紹興分會(huì)評(píng)議長(zhǎng)等。1908年6月與紹興醫(yī)界同仁一起組建紹興醫(yī)藥研究社,創(chuàng)辦《紹興醫(yī)藥學(xué)報(bào)》。該刊是我國(guó)近代最早的中醫(yī)藥期刊,何氏任副總編。