Photoshopのレイヤー効果「境界線」は境界線が適用される位置を「外側」「中央」「内側」から選択できます。

試しに正方形のシェイプ（線無し塗り無し）に、レイヤー効果で境界線を設定してみます。

位置を「外側」にすると境界線の外側が丸くなってしまいます。「中央」にするとやはり若干丸みが残ります。この境界線の丸みは消すことができません。位置を「内側」にすれば丸みは消えるので、境界線に丸みが必要ない時は「内側」を使います。