为了拉近马来西亚和中国的友好关系，1974年5月31日，马来西亚第2任首相敦阿都拉萨与中华人民共和国总理周恩来与在北京签署建交《联合公报》，正式建立大使级外交关系。
1975年1月，中国任命王幼平为中国驻马来西亚大使馆首任大使。同年1月24日，王幼平赴任抵达马来西亚首都吉隆坡，并于1月29日向国家元首递交国书。
中驻马大使馆外观。
目前中国驻马来西亚大使馆，是位于马来西亚吉隆坡市安邦路229号，大使馆领区，包括吉隆坡、雪兰莪、森美兰、马六甲、柔佛、登嘉楼、吉兰丹、彭亨。
大使馆设有领事办公大厅，对外办公地点为马来西亚吉隆坡安邦路25号OSK大厦一楼（中国银行楼上）。位于玛扬莎莉路汉普郡广场办公室6楼（Level 6, Hampshire Place Office, Jalan Mayang Sari）的吉隆坡中国签证申请服务中心则负责中国签证及认证申请。
历届大使有王幼平、叶成章、陈抗、胡岗、周刚、金桂华、钱锦昌、关登明、胡正跃、王春贵、程永华、刘健、柴玺、黄惠康、白天、欧阳玉靖。
中驻马大使欧阳玉靖
中驻槟总领馆2015年设馆
中国驻槟总领馆，于2015年12月22日设馆，位于端姑阿都拉曼路门牌28B&C。总领馆领区包括槟城州、霹雳州、吉打州及玻璃市州四州。
中国驻槟总领馆于2015年12月22日正式开馆。
第一任总领事为吴骏（2015年7月—2018年5月）。第二任：鲁世巍（2018年7月—2022年8月），第三任：周游斌（2022年10月至今）。
中驻槟总领事周游斌
此外，在我国东马，中国也设有两间总领事馆，即中国驻亚庇总领事馆及中国驻古晋总领事馆。中国驻亚庇总领事馆的领区是沙巴及纳闽联邦直辖区，中国驻古晋总领事馆的领区则是砂拉越。
历届大使
王幼平（1975年1月-1977年4月）
叶成章（1977年12月-1982年10月）
陈抗（1983年3月-1985年1月）
胡岗（1985年4月-1988年4月）
周刚（1988年7月-1991年4月）
金桂华（1991年8月-1993年11月）
钱锦昌（1994年1月-1999年1月）
关登明（1999年2月-2001年8月）
胡正跃（2001年9月-2004年2月）
王春贵（2004年4月-2006年8月）
程永华（2006年8月-2008年8月）
刘健（2008年9月-2010年6月）
柴玺（2010年6月-2013年12月）
黄惠康（2014年1月-2017年10月）
白天（2017年11月-2020年11月）
欧阳玉靖（2020年12月至今）