Photoshopでシェイプをスマートオブジェクトに変換し、再度シェイプに戻す場合は以下の手順で操作します。

スマートオブジェクトのレイヤーを選択→属性パネル→レイヤーに変換

IllustratorからPhotoshopへデータを配置するときに「スマートオブジェクト」を選択した場合、「ベクトルスマートオブジェクト」が作成されます。

この場合、上記の操作をすると以下のエラーメッセージが表示されスマートオブジェクトをシェイプにすることはできません。

なお、スマートオブジェクトのレイヤーを右クリックし「レイヤーをラスタライズ」を選択すると、スマートオブジェクトは解除できますがシェイプに戻らずピクセルレイヤーになります。