Если вы ссылаетесь на круглые границы, просто удалите все borderRadius, которые есть в вашем коде, но если вы имеете в виду серые линии над границами, сделайте это:
showModalBottomSheet(
shape: RoundedRectangleBorder( //setting a new shape
borderRadius: BorderRadius.vertical(
top: Radius.circular(30),
),
),
context: context,
builder: (context) {
return Container(
child: Column(
children: <Widget>[
ListTile(),
],
),
height: 180,
);
},
);