按照你现在的思路应该是要使用MATLAB Engine,对于你来讲可能难度有点大。如果不是必须要用VC来编软件的话,也可以直接用matlab编一个GUI,读串口数据也很方便,画图也可以直接画,这个相对来说难度小一点,不知道你能不能用。
参考网址;
http://blog.sina.com.cn/s/blog_8e6bfecf010126pg.html
matlab可以导出函数的动态链接库,也就是dll,你搜一下如何“导出matlab函数dll”,我做过一阵子,后来忘了……