盧芹齋1880年出生於浙江湖州盧家渡，初名“煥文”；後改名“芹齋”。盧幼年失怙，初寄養於遠房的堂叔家，後入南潯張家做仆人。張家大少爺，就是日後國民黨四大元老之壹的張靜江。1902年，張靜江任清廷駐法國商務參贊，張靜江將盧芹齋攜往巴黎。張靜江在巴黎開設“運通”公司，售賣中國的瓷器、字畫等，將收入悉數資助了孫文，支援辛亥革命。
盧芹齋從古董店學徒開始，刻苦學習古董店的各項業務，又學說了壹口流利的英語、法語，很快就受到老板賞識，盧芹齋逐漸出任掌鋪了。辛亥革命後張靜江回國協助孫中山，通遠公司結束，盧芹齋開辦了自己的古董店，成立了盧吳古玩公司。
恰巧這時又趕上國內清政府垮臺，北洋政府執政，人心不穩定，故宮內的古物珍寶紛紛流失海外，盧憑著鑒別中國文物的本領，成功低價收購不少古稀珍品，推銷到歐洲市場，壹本萬利。漸漸地，盧芹齋成為享有盛譽的中國古董鑒賞家，也成為歐洲華人中的名人。
此後的數十年，他以自己深厚的中華文物鑒賞知識和商業才能，啟蒙性地把歐美收藏家們的眼光從中國裝飾性瓷器引向了文化積澱深厚的中國墓葬藝術和佛教藝術。
隨著其生意日隆的同時，是大量國內重要的文物走私流散海外，他在國內招致大量批評聲音；且在文物買賣事業的鼎盛時期，卻栽在譚敬的作偽集團手中，大大損失其名譽與信任度。而隨著新中國的建立，文物走私和國際貿易中斷，更使其國內文物來源斷供，50年代初他不得不全部清貨，結束生意。
1926年開始，盧芹齋在巴黎建造了著名的“巴黎紅樓”，用文物營造的中國文化氣氛極為濃厚，“紅樓”的壹、二、五層和地下壹層的壹部分已被巴黎市政府列為文化遺產。盧芹齋曾捐款資助過辛亥革命，在壹段時間內，每天在紅樓免費資助中國留學生壹頓午餐。晚年的盧芹齋總結自己的壹生充滿了矛盾，他承認自己使不少國寶流失海外，又為這些國寶避免了戰亂得到了保護而感到幸運。
1957年，盧芹齋死於瑞士，終年78歲，葬在妻子的家族墓地古何貝瓦。