博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
通过shell脚本进行数据库操作
阅读量:5164 次
发布时间:2019-06-13

本文共 6775 字,大约阅读时间需要 22 分钟。

在做一些日常的运维工作的时候,经常需要些一些shell脚本进行设备性能以及其它参数的监控。在过去的一年工作中,接触到的比较多的是对数据库中某些信息的监控。

于是就想到了用shell+mysql+crontab进行实现。

下面附上通过shell命令行非交互式的操作数据库的方法:

mysql -hhostname -Pport -uusername -ppassword -e 相关mysql的sql语句,不用在mysql的提示符下运行mysql,即可以在shell中操作mysql的方法。

#!/bin/bash

HOSTNAME="192.168.111.84"  #数据库信息

PORT="3306"

USERNAME="root"

PASSWORD=""

 

DBNAME="test_db_test"  #数据库名称

TABLENAME="test_table_test" #数据库中表的名称

 

#创建数据库

create_db_sql="create database IF NOT EXISTS ${DBNAME}"

mysql -h${HOSTNAME} -P${PORT} -u${USERNAME} -p${PASSWORD} -e "${create_db_sql}"

 

#创建表

create_table_sql="create table IF NOT EXISTS ${TABLENAME} ( name varchar(20), id int(11) default 0 )"

mysql -h${HOSTNAME} -P${PORT} -u${USERNAME} -p${PASSWORD} ${DBNAME} -e "${create_table_sql}"

 

#插入数据

insert_sql="insert into ${TABLENAME} values('billchen',2)"

mysql -h${HOSTNAME} -P${PORT} -u${USERNAME} -p${PASSWORD} ${DBNAME} -e "${insert_sql}"

 

#查询

select_sql="select * from ${TABLENAME}"

mysql -h${HOSTNAME} -P${PORT} -u${USERNAME} -p${PASSWORD} ${DBNAME} -e "${select_sql}"

 

#更新数据

update_sql="update ${TABLENAME} set id=3"

mysql -h${HOSTNAME} -P${PORT} -u${USERNAME} -p${PASSWORD} ${DBNAME} -e "${update_sql}"

mysql -h${HOSTNAME} -P${PORT} -u${USERNAME} -p${PASSWORD} ${DBNAME} -e "${select_sql}"

 

#删除数据

delete_sql="delete from ${TABLENAME}"

mysql -h${HOSTNAME} -P${PORT} -u${USERNAME} -p${PASSWORD} ${DBNAME} -e "${delete_sql}"

mysql -h${HOSTNAME} -P${PORT} -u${USERNAME} -p${PASSWORD} ${DBNAME} -e "${select_sql}"

 

 

shell脚本连接、读写、操作mysql数据库实例

本文介绍了如何在shell中读写mysql数据库。主要介绍了如何在shell 中连接mysql数据库,如何在shell中创建数据库,创建表,插入csv文件,读取mysql数据库,导出mysql数据库为xml或html文件, 并分析了核心语句。本文介绍的方法适用于PostgreSQL ,相对mysql而言,shell 中读写PostgreSQL会更简单些。

1. 连接mysql 数据库

shell中连接数据库的方法很简单,只需要指定用户名,密码,连接的数据库名称,然后通过重定向,输入mysql的语句,如下所示:

mysql -u USERNAME -p PASSWORD DATABASENAME <
/dev/null show databases;EOF

但这并不是一个好办法,任何使用该脚本的用户都能看到该数据库用户的账号和密码,要解决这个问题,可以用mysql 数据库的一个特殊配置文件。mysql 数据库使用$HOME/.my.cnf 文件来读取特殊的启动命令和设置。其中一项设置是由该用户账户发起的mysql 会话的默认密码。要在这个文件中设置默认密码,可以加入下面的内容:

[client]password = 123456然后,别忘了修改权限:chmod 400  .my.cnf这样就可以通过脚本访问mysql数据库了,如下所示:#!/bin/bashMYSQL=`which mysql`$MYSQL test -u root << EOFshow databases;show tables;select * from employees where salary > 4000;EOF

2. 创建数据库

通过上面的方法连接数据库,再通过重定向输入mysql语句,shell中读写mysql基本就介绍完了。只要把sql语句写对了,通过重定向执行即可,下面来看一个实例:

#!/bin/bash############################### @file create_db_mysql.sh# @brief create database and tables in mysql# @author Mingxing LAI# @version 0.1# @date 2013-01-20##############################USER="root"DATABASE="students"TABLE="students"#######################crate databasemysql -u $USER << EOF 2>/dev/nullCREATE DATABASE $DATABASEEOF[ $? -eq 0 ] && echo "created DB" || echo DB already exists#######################create tablemysql -u $USER $DATABASE << EOF 2>/dev/nullCREATE TABLE $TABLE(id int,name varchar(100),mark int,dept varchar(4));EOF[ $? -eq 0 ] && echo "Created table students" || echo "Table students already exist" #######################delete datamysql -u $USER $DATABASE << EOF 2>/dev/nullDELETE FROM $TABLE;EOF

这个脚本比较简单,就是几条SQL语句,没什么好解释的,下面来看一下,如何读入csv 文件,然后插入到mysql数据库中。

3. 插入csv 文件

上面创建了一个学生表,表中有学生的学号,姓名,成绩,系别,假设有一个csv文件,内容如下:

$cat data1,Navin M,98,CS2,Kavya N,70,CS3,Nawaz O,80,CS4,Hari S,80,EC5,Alex M,50,EC6,Neenu J,70,EC7,Bob A,30,EC8,Anu M,90,AE9,Sruthi,89,AE10,Andrew,89,AE

为了将csv 文件插入到数据库,我们需要逐行读入,然后给字符串加上双引号,最后生成语句如下:

insert into students VALUES(1, "Navin M", 98, "CS");

要解析csv 文件,最好的工具莫过于awk了,将域的分隔符指定为逗号-F,,awk就自动将各个域拆分出来了,然后在需要双引号的地方打印输出一个双引号,就能够轻松得到下面这样的数据:

1, "Navin M", 98, "CS" awk 代码如下:query=`echo $line | awk -F, '{ printf("%s,\"%s\",%s,\"%s\"", $1, $2, $3, $4)}'`statement=`echo "INSERT INTO $TABLE VALUES($query);"`echo $statement

当然了,你也可以用其他办法,不过,几乎没有比awk更简单的了,第2种方法如下:

oldIFS=$IFSIFS=,values=($line)values[1]="\"`echo ${values[1]} | tr ' ' '#' `\""values[3]="\"`echo ${values[3]}`\""query=`echo ${values[@]} | tr ' #' ', '`IFS=$oldIFSstatement=`echo "INSERT INTO $TABLE VALUES($query);"`echo "$statement"

首先通过指定域分隔符,将csv文件解析成一个数组,然后将空格替换成一个特殊的符号"#"(因为后面的替换中,会一次性输出数组,而数组是用空格分隔各字段,我们要将分隔数组的空格替换成逗号,所以这里将数据中的空格替换成"#") ,给字符串加上双引号,最后再把空格替换成逗号,把"#"替换为空格。这种方法真是让人抓狂,我第一次就没有看明白,尤其是为什么要将空格替换成"#"。

 

完整的插入数据的程序如下:

#!/bin/bash## @file write_to_db_mysql.sh# @brief wirte data to database in mysql# @author Mingxing LAI# @version 0.1# @date 2013-01-20#USER="root"DATABASE="students"TABLE="students"if [ $# -ne 1 ]; then    echo $0 DATAFILE    echo    exit 2fidata=$1while  read line;do#   query=`echo $line | awk -F, '{ printf("%s,\"%s\",%s,\"%s\"", $1, $2, $3, $4)}'`    oldIFS=$IFS    IFS=,    values=($line)    values[1]="\"`echo ${values[1]} | tr ' ' '#' `\""    values[3]="\"`echo ${values[3]}`\""    query=`echo ${values[@]} | tr ' #' ', '`    IFS=$oldIFS    statement=`echo "INSERT INTO $TABLE VALUES($query);"`#   echo $statementmysql -u $USER $DATABASE << EOF    INSERT INTO $TABLE VALUES($query);EOFdone < $dataif [[ $? -eq 0 ]]; then    echo "Wrote data into DB"fi

4. 读取数据

知道怎么在shell 中连接mysql ,也知道了怎么在shell中批量执行sql 语句,读取数据,就没有任何难度了。

#!/bin/bash## @file read_db_mysql.sh# @brief read data from mysql# @author Mingxing LAI# @version 0.1# @date 2013-01-20#USER="root"DATABASE="students"TABLE="students"#用tail 去掉表头depts=`mysql -u $USER $DATABASE <

我们还可以在mysql语句中,使用选项来控制数据的输出格式

 

    -H 输出为html

    -X 输出为xml

如下所示:

#!/bin/bashUSER="root"DATABASE="students"TABLE="students"mysql -u $USER $DATABASE -H << EOFselect * from $TABLEEOF

html 格式的可读性比较差,输出效果如下:

id name mark dept
1 Navin M 98 CS
2 Kavya N 70 CS
3 Nawaz O 80 CS
4 Hari S 80 EC
5 Alex M 50 EC
6 Neenu J 70 EC
7 Bob A 30 EC
8 Anu M 90 AE
9 Sruthi 89 AE
10 Andrew 89 AE

可读性差也可以理解,因为人家觉得,你没必要修改么,直接以html形式展示数据就可以了。

id    name    mark    dept1    Navin M    98    CS2    Kavya N    70    CS3    Nawaz O    80    CS4    Hari S    80    EC5    Alex M    50    EC6    Neenu J    70    EC7    Bob A    30    EC8    Anu M    90    AE9    Sruthi    89    AE10    Andrew    89    AE

xml形式的数据显示就比较正常了,直接将上面的-H 换成-X,输出如下:

1
Navin M
98
CS
2
Kavya N
70
CS

 

转载于:https://www.cnblogs.com/jiangxiaobo/p/9897041.html

你可能感兴趣的文章
心急的C小加
查看>>
编译原理 First,Follow,select集求法
查看>>
java 浅拷贝和深拷贝
查看>>
vue实例中中data属性三种写法
查看>>
uva1636 - Headshot(条件概率)
查看>>
iOS开发 runtime实现原理以及实际开发中的应用
查看>>
BZOJ2437 NOI2011兔兔与蛋蛋(二分图匹配+博弈)
查看>>
android 学习资源网址
查看>>
shell基础
查看>>
2018.1.15
查看>>
[集合DP] UVA 10651 Pebble Solitaire
查看>>
qt安装遇到的错误
查看>>
寻找完美平方数
查看>>
java:Apache Shiro 权限管理
查看>>
objective c的注释规范
查看>>
FreeNas安装配置使用
查看>>
机器学习中的F1-score
查看>>
编译安装php5.5.38
查看>>
常用查找数据结构及算法(Python实现)
查看>>
Scrapy框架-CrawlSpider
查看>>