云计算是一种基于互联网提供服务的业务模式，互联网发展水平和网络质量对于云计算业务的发展至关重要。同时云计算又代表着从提供产品到提供服务的产业模式的转变，不仅需要用户观念的转变，更需要提供商与用户之间建立基于法律制度保障和相互信任的合作关系。从这两点来说，云计算在中国的发展还面临着一些挑战。
挑战一：
宽带网络建设需要加快
大多数的云计算业务需要通过互联网来提供，对网络带宽提出了较高的要求，因此云计算的发展依赖于互联网尤其是宽带互联网的发展。经过十几年的发展，中国的互联网规模已经位居世界第一位，且近几年持续保持高速增长态势，截至2014年12月，网民规模达到6.49亿，其中使用宽带接入的网民达到5.8亿，宽带接入用户数超过2亿。
虽然中国宽带用户数量巨大，但就渗透率指标来说，仍然只是刚刚接近全球的平均水平(7.7%)。据统计，2009年中国宽带接入的渗透率只有7.5%左右，而同期韩国达到32.9%，美国达到28.9%，日本达到24.3%，土耳其和墨西哥的宽带渗透率也达到9%以上。
另外，与用户数量高速增长相对应的是，“宽带不宽”的问题依然存在，根据Akamai公司2009年的统计报告，中国的平均上网速度只有857kbps，而同期OECD国家的平均接入带宽则达到了9.2Mbps，之间相差了10倍以上。
由于宽带网络的普及率低，接入速率不高，同时在中国还存在着运营商间网络互联质量差、各地区网络发展水平不均衡等诸多问题，很大程度上制约了目前云计算在中国的发展。因此，要在中国发展云计算产业，首先必须解决宽带网络发展的问题，这也需要从国家层面给予一些支持。
挑战二：
数据中心发展水平有待提高
互联网数据中心(IDC)是构建云计算平台的基础，无论哪种云计算业务模式，如果希望提供大规模、高可靠、具有市场竞争力的IT服务，都需要有规模化、节能化的IDC来支持。
反观中国IDC的发展状况，我国数据中心还处于发展初期，规模小、能耗高、服务水平低仍是显著的特点。2009年中国IDC市场规模为63.9亿元人民币，在亚太IDC市场中仅占5%的份额，整体规模仍然较小，与中国全球第一的网民规模极不适应。总体上说，目前国内IDC行业从规模上来看呈倒金字塔形，规范的大型IDC数量很少，400平方米以下的小型IDC占到90%左右，但承担了中国90%以上的网站需求。
在数据中心市场中，基础电信运营商占据市场份额的60%以上，但宣称的平均能耗效率(PUE)仅在2.2~3.0之间，远远低于国际上1.1～1.5的PUE水平。另外，中国的IDC大多数仍停留在只提供机架出租这类基本业务的水平上，IDC盈利更多是依靠出租网络带宽，而非依靠更高附加值的增值服务，远没有达到成为云计算平台提供者的要求。因此，中国云计算产业的发展，需要无论是企业所有的IDC还是面向公众服务的数据中心，在技术水平、服务能力上都要有所突破。
挑战三：
从产品到服务的过渡远未到位
当前，中国整个IT环境还处于从自给自足的“自然经济”向依靠专业服务的“商品经济”过渡的初期，一些运营商、互联网提供商希望通过云计算技术与平台为用户提供高质量的IT服务，以开拓这个新的潜在市场，但由于目前在构建云平台的产品及解决方案方面还存在很多问题，因此这种努力面临着种种障碍。
首先，对于希望建设云计算平台的服务提供商来说，目前市场上的IT产品如服务器、存储产品、交换设备等，大多是面向普通用户的传统产品类型，在产品形态、设计理念等方面无法满足构建云平台的需要。在这种情况下，一些互联网提供商选择了自行开发或定制云平台所需的各类设备，但对于大多数的传统电信运营商来说，还是更希望在市场上购买到能够满足需求的产品。
其次，云计算相关的运营、支撑、维护系统不完善。云计算是一种面向公众提供的服务，因此必须有一套完善的运维系统来提供系统配置、维护、管理，以及计费、审计等功能。但目前的云计算解决方案(如一些虚拟机管理系统)大多只是面向企业内部使用的私有云，无法满足公有云复杂运维的需求。
另外，云计算标准化的滞后也阻碍了云平台的建设。对于云计算服务提供商来说，很自然地希望能够集成多个厂家的设备提供服务，以避免服务商锁定的问题。但目前由于云计算涉及的接口、管理等标准远未成熟，因此各厂家的设备与平台难以实现互联及集成，使云服务的提供商陷入了暂缓提供服务或客户被服务商锁定的两难境地。
挑战四：
用户市场尚需培育
中国有4200万中小企业，且目前大多数信息化水平很低，因此云计算服务在中国拥有巨大的市场潜力。但同时，有潜力并不代表市场会自发地实现发展，还需要从改变用户使用习惯和市场规范化两个角度去为这个市场营造良好的发展环境。
要使用户尤其是中小企业用户的IT系统构建理念实现从购买产品到购买服务的转变，需要改变用户“眼见为实”的传统观念;而要使一些国有企业或政府部门真正地接受云计算服务，还需要从财务制度、审计制度、资产管理制度等多方面实现相应的改变。
云计算服务需要用户将数据、业务托管或存放在业务提供商的基础设施之中，前提条件就是提供商与用户之间建立一种相互信任的合作关系，这种信任或信托关系可以与金融等传统服务行业相类比，依赖于基于法律与监管体系的市场规范化。因此在目前的情况下，急需完善关于用户数据及隐私保护方面的法律体系，从法律角度建立云计算及其他网络业务提供商与用户之间的权责关系。同时在行业监管上，对云服务提供商实行资质认证等有效的行业监管，从制度和技术手段上规范云服务提供商的资质与行为。
