最近のVPSの利用料金は本当に安くなったと思います。以前は、専用サーバーの半分ぐらいの費用がかかったと思いますが、今は共有レンタルサーバーとほとんど変わらないような値段のVPSプランも結構出てきました。しかし、いくら値段が共有レンタルサーバーと変わらないと言っても、自由度が高いという所にだけ惹かれて、共有レンタルサーバーでの利用歴がなく、家でサーバーを運用したこともない、まったくの初心者が使うのはちょっと無謀です。VPSを使うのであれば、サーバーの運用経験はあった方がいいと思います。
まったくなくても使える場合もあります。たとえば、サーバー会社が管理者権限を持ってプログラムのインストールとかアップデートとか面倒な作業は全部引き受けてくれるタイプの契約であれば、利用者はVPSをまるで共有レンタルサーバーのように使えると思います。しかし、これだと利用料金は普通のVPSよりも高くなるし、共有レンタルサーバーを使うよりもずっと高いし、なによりもVPSと契約する意味があまりないんですよね。VPSの良さというのは、共有レンタルサーバーとそれほど変わらない料金で専用サーバーのように管理者権限を持って使えるということなので、管理者権限は放棄しない形で使った方がいいと思います。
そうであれば、サーバーの運用経験はやっぱり必要です。サーバーのプログラムは普通のパソコンにもインストール出来るので、サーバー構築のマニュアル本みたいのを一冊買ってきて、いろいろ試してみるといいのではないかと思います。