读书时，他的成绩从没进过前三名。他的理想是上北大，但最后他只上了杭州师院，还是个专科，而且考了3年。第一年高考他数学考了1分，第二年19分。
马云后来常说自己的创业经历至少可以证明：“如果我马云能够创业成功，那么我相信中国80%的年轻人都能创业成功。”·大学毕业后，马云当了6年半的英语老师。期间，他成立了杭州首家外文翻译社，用业余时间接了一些外贸单位的翻译活。钱没挣到多少，倒是闯出了一点名气。1995年，“杭州英语最棒”的马云受浙江省交通厅委托到美国催讨一笔债务。
结果是钱没要到一分，倒发现了一个“宝库”——在西雅图，对计算机一窍不通的马云第一次上了互联网。刚刚学会上网，他竟然就想到了为他的翻译社做网上广告，上午10点他把广告发送上网，中午12点前他就收到了6个email，分别来自美国，德国和日本，说这是他们看到的有关中国的第一个网页。“这里有大大的生意可做！”马云当时就意识到互联网是一座金矿。噩梦般的讨债之旅结束了，马云灰溜溜地回到了杭州，身上只剩下1美元和一个疯狂的念头。成为“阿里巴巴”马云的想法是，把中国企业的资料集中起来，快递到美国，由设计者做好网页向全世界发布，利润则来自向企业收取的费用。
马云相信“时不我待，舍我其谁”！找了个学自动化的“拍档”，加上妻子，一共三人，两万元启动资金，租了间房，就开始创业了。这就是马云的第一家互联网公司——海博网络，产品叫做“中国黄页”。在早期的海外留学生当中，很多人都知道，互联网上最早出现的以中国为主题的商业信息网站，正是“中国黄页”。