我认为主要是看你的业务，和硬件了解的情况。
看有人再推荐vps，对于vps和托管而言我倾向于托管，首先价格上一般vps看起来便宜但是三两头出毛病，阿里云贵的没边了。我们在山东一个联通机房里托管的机器，1u，10m独享，24h可以跑慢，带硬防，两个ip，一年只要5000元，全国访问都是绿的，24小时机房有技术值班，所以如果有能力托管自然是成本划算。
但是托管的话，现在创业起步阶段很多都是异地托管，不方便物理接触。所以机器自带的远程管理卡并花个几百多买一个ip是值得的，这样子远程装系统，做raid均方便。
至于买二手我认为是可以的，首先看你业务，看需求不是那种绝对不能停机的。而且使用热备技术可以确保损害可控。这样子算下来1台新的机器（配置差不多要15000）就不如买两台二手的了。有的机房可以两台机器一条线，第二台机器托管费很优惠（你要有办法让他给你在机器后面拖个小网关都有可能）。
但是有个问题二手机器不稳定怕不可靠咋办？
对此，首先要从选择入手，一定要买大牌的老系列口碑好的，我主推dell的r6系列机器，这个系列渠道与用户一般比较好。拿到手残值比较高，而且设计的可以挺耐造。
然后要检查测试好
拿到手后不要用二手带着的盘，硬盘一定要换掉。
核对好机器串号，比如dell r6系列，要做到机身号，主板号，bios号，管理卡号都对上，对不上的八成是组装的，组装的机器就更依赖你强大的折腾能力了。
二手机器带单电的要配齐双电，这个没几个钱。
自带的raid卡一定要让他送上bbu，而且你拿到要测好bbu是否正常。
远程管理卡要测试好，这个管理卡很多时候是最后一根稻草。配好网卡故障转移。
拿到手后该换的散热脂都要换，包括raid卡的，r卡可是发热大户。
千万别让店家忽悠你买滑轨，这玩意好几百，机房都有隔板的。
bios电池检查下，有的会不正常。
确定好带着的sas线是正常的，这很重要，很多时候二手机器特别是组装机这个线不正常（比如应该用弯头用了直头，组装机多见）。
所有的风扇都要确定ok。
cpu要看好，绝对不能是es的。
测试好电源，确保电压均正常。
打开远程管理卡，确保一切ok，会用，顺便练习下远程操作，要是不是企业版就淘宝花几十块买个key。
这些都ok就可以烤机了，特别要顺带烤着硬盘和网卡，内存要使劲压，烤机过程中硬盘可以用二手送的。这样子连续1周到10天，冬天测试建议在暖气旁边。
到此为止基本上这台机器问题就不大了，但是不可以掉以轻心。还需要使用时配合下，主要思路就是确保备份，损失可控。
推荐拿一张ssd做raid缓存然后4张1t日历2。5寸企业sata（不要sas的，sas还不如上ssd）盘做raid10。这样子都有备份。
如果是做论坛网站这种，还可以入两张ssd做个raid0，配合2张机械raid1做热备，设定好rsync增量循环备份（要写个脚本），不要怕丢数据，配好1小时同步到低速盘一次的话，这种类型的站一般是可以承受一小时的数据丢失的（数据库不要放raid0上，主要放静态，上传，和缓存，发生在难后丢的基本都是些图）。
如果是不需要很大空间但要求高速的需求，还可以直接上纯ssd raid10阵列效果也是很好，就是空间小点，ssd的选择最好以新intel的企业级盘没钱就上intel普通的，你懂的。
除此以外还要备份好。
我这边办公室里有台nas平时小伙伴们传文件用，设定好脚本，每天从服务器上往下增量备份。一个月循环一次。这样子遇到严重问题阵列恢复不了了也ok。
还需要你和机房打好交道，交涉好
托管的时候可以放机房里一张备用盘，机器的盘贴好标签记录好对应关系，
掉盘了一个电话管理员就能给换上（不推荐放raid卡，换卡机房管理员操作容易出错）然后回头发顺丰再发给机房一张。
基本上一般情况下出毛病顺序是盘>raid卡&电源&网卡>内存>主板>cpu。
这样子多管齐下基本上二手机器用起来也就不那么心惊肉跳了。一般来说前两年是可以放心的，到了第三年压榨完残值基本上就可以换代了（要是多机热备就让他服役到阵亡吧）。
要注意的是，决定前务必想好，确定这些风险和管理难点都是你可以承受的，如果承受不了，看下托管多台二手的做集群或者热备是否可接受，这会让运维与架构更加麻烦，如果依然不能承受，还是去买新的吧。不过一般而言多台机器情况下风险就很小了，上3台机器那可比买一台新的要保险，但是对运维和架构是个挑战。
2016年这个时间节点上我推荐你入dell r620，各种特性都具备，二手货源充足质量也说得过去。
国产机器均不赞成买，尤其是华为的，华为的不是不好而是因为设计原因会出些奇怪问题，没有原厂支持很不方便。hp的过去也不错，现在不太行了，再就是二手渠道不太好。ibm pc服务器被收购前还ok，收购后x就不太行了，还各种乱。所以综合来看dell的r6系列是个好选择。
----------------
2016-12-8 更新
另外最近还可以买到洋垃圾的很廉价的dell c6220 和c6320 这两个非常不错，2u的位置，4台机器，带万兆光口，而且6320的主板可以塞到c6220的底板上，这样子算下来扩展也ok。
买来后用一个节点做网关（注意内核优化好，要不距离线速很远），网卡可以直接接到网关节点，网关节点配个4口万兆光卡（或者电卡也行）。
管理卡可以采用菊花链或者容易上联的方式吧管理卡配到一个子网里，这样子一来一根进线就可以带4台机器的网和管理卡。
网关你还可以配上前端的服务，比如nginx什么的，如果做虚拟化也是非常好的。另外如果你是微服务这样子的配置基本上都可以撑起来。
如果怕不稳定，可以让其中一个节点热备，这样子一来稳定性自然可以放心。
关键是成本异常低廉，一个2U机位，托管4台双路节点，电源功耗还是普通的水准，机房不会让你加钱。不管是虚拟化也好还是搞普通服务或者微服务应用也罢，都是成本最优的选择。
希望能帮到你
