如何用python实现《多社交网络的影响力最大化问题分析》中的算法

Python011

如何用python实现《多社交网络的影响力最大化问题分析》中的算法,第1张

经过一周,现已初步完成,其中多出代码不够美观以及效率不高,还请指点

# _*_ coding:utf-8 _*_

# ==================================================================================

#

# Description: Influence Maximization on Multiple Social Networks

#

# ==================================================================================

import matplotlib.pyplot as plt

import networkx as nx

import heapq

#总图

G = nx.DiGraph()

def load_graph(file):

'''

加载文件为列表格式,并得到G,画出图结构

'''

#将总列表设成全局格式

global gllist

#迭代文件中每个元素

with open(file) as f:

lines = f.readlines()

mylist = [line.strip().split() for line in lines]

gllist = []

#将字符串型转换为整型

for i in mylist:

gllist.append(i[:-2]+map(lambda x: float(x), i[-2:]))

print '初始全局列表:'

print gllist

drawlist=[]

#提取二维列表mylist每行前三个元素,赋给新的列表drawlist

for i in range(len(mylist)):

drawlist.append([])

for j in range(3):

drawlist[i].append(mylist[i][j])

#将列表drawlist加载为有向加权图

G.add_weighted_edges_from(drawlist)

nx.draw(G, with_labels=True, width=1, node_color='y', edge_color='b')

plt.show()

print 'G图中所有节点:',G.nodes()

print 'G图中所有边:',G.edges()

print '\n'

def get_self_node(gllist, target=None):

'''

获取目标节点的自传播节点,返回selflist并包含目标节点

'''

#初始化自传播节点列表

selflist = [target]

#存放已传播节点列表

haslist = []

flag = 0

while (flag != 0):

flag = 0

for target in selflist:

if target not in haslist:

for i in range(len(gllist)):

#判断二维列表中,每行第三个元素是否为1,若为1,则为自传播节点

if ((gllist[i][0] == target)or(gllist[i][1]==target))and(gllist[i][3]==1.0):

if gllist[i][0] == target:

if gllist[i][1] not in haslist:

selflist.append(gllist[i][1])

haslist.append(gllist[i][1])

flag += 1

else:

if gllist[i][0] not in haslist:

selflist.append(gllist[i][0])

haslist.append(gllist[i][0])

flag += 1

#去除重复元素

haslist = set(haslist)

selflist = set(selflist)

#去除重复元素

selflist = set(selflist)

return selflist

def longest_path(gllist,source=None,target=None):

'''

获取起始点到实体的最大路径集合,返回为longestpath列表

'''

longestpath = []

newlist = []

for i in range(len(gllist)):

newlist.append([])

for j in range(3):

newlist[i].append(gllist[i][j])

#构建图结构

G1 = nx.DiGraph()

#添加带权有向边

G1.add_weighted_edges_from(newlist)

#获取目标节点的所有自传播街边,并存入selflist中

selflist = get_self_node(gllist, target)

max_path = 0

val_path = 1

#获取初始节点到目标节点及目标节点的自传播节点的最大路径

for v in selflist:

if v != source:

#遍历两点之间所有路径,并进行比对

for path in nx.all_simple_paths(G1,source=source,target=v):

#判断路径后两个元素是否为相同实体(如:b1->b2)

if is_self_transmit_node(path[-2], v) == 0:

for i in range(0, len(path)-1):

val_path *= G1.get_edge_data(path[i], path[i+1])['weight']

if max_path <val_path:

max_path = val_path

val_path = 1

#若目标节点为起始节点则直接跳出

else: continue ############ 有待商榷 ##############

longestpath.append(max_path)

#返回初始节点到实体的最大路径

return longestpath

def is_self_transmit_node(u, v):

'''

判断目标节点不为起始节点的自传播点

'''

flag = 0

#获得起始节点的所有自传播点

selflist = get_self_node(gllist, v)

for x in selflist:

if u == x:

flag = 1

return flag

def single_strong_infl(longestpath):

'''

计算起始点到实体的传播概率(影响强度),返回影响强度stronginfl

'''

temp = 1

for x in longestpath:

temp *= 1-x

stronginfl = 1-temp

return stronginfl

def all_strong_infl(G):

'''

获得每个节点对实体的影响概率

'''

allstrong = [] #初始化所有节点的加权影响范围列表

gnodes = [] #初始化节点列表

tempnodes = [] #初始化临时节点列表

gnodes = G.nodes()

for u in gnodes:

strong = 0 #存储初始节点对每个实体的影响范围加权,初始化为0

#重置临时节点列表

tempnodes = G.nodes()

for v in tempnodes:

#非自身节点

if u != v:

#判断目标节点不为起始节点的自传播点

if is_self_transmit_node(v, u) == 0:

#获取起始节点到实体间最大加权路径,并存入longestpath

longestpath = longest_path(gllist, u, v)

#去除已遍历目标节点的所有自传播节点

renode = get_self_node(gllist, v)

for x in renode:

if x != v:

tempnodes.remove(x)

#计算起始节点到实体间传播概率(影响强度)

stronginfl = single_strong_infl(longestpath)

strong += stronginfl

#添加单个节点到所有实体的加权影响范围

allstrong.append([u, round(strong, 2)])

#返回每个节点到所有实体的加权影响范围

return allstrong

#output allstrong : [['a1', 2.48], ['a2', 1.6880000000000002], ['b1', 0.7], ['b2', 0], ['c1', 0], ['d2', 0.6]]

def uS_e_uppergain(u, ev, S):

'''

获取节点u在集合S的基础上对实体ev的影响增益, 传入候选节点,上界gain(u|S, ev)

'''

#获取目前实体的所有自传播节点

selflist = get_self_node(gllist, ev)

stronglist = []

#遍历自传遍节点

for v in selflist:

'''

判断节点v是否存在种子集合S中

其中v为单个节点,如v(ev, Gi)

S为种子节点集合,如['a1','a2','b1','b2','c1','d2']

'''

if v in S:

ppSv = 1

else:

longestpath = []

#遍历种子集合

for s in S:

#初始化路径权值与最大路径权值

val_path = 1

max_path = 0

#遍历两点之间所有路径,并进行比对

for path in nx.all_simple_paths(G,source=s,target=v):

#判断路径后两个元素是否为相同实体(如:b1->b2)

if is_self_transmit_node(path[-2], v) == 0:

for i in range(0, len(path)-1):

val_path *= G.get_edge_data(path[i], path[i+1])['weight']

if max_path <val_path:

max_path = val_path

#重置路径权值为1

val_path = 1

#将最大加权路径存入longestpath列表

longestpath.append(max_path)

#得到上界pp(S,v)的影响概率,上界pp(S,v)

ppSv = single_strong_infl(longestpath)

stronglist.append(ppSv)

#得到上界pp(S,ev)的影响概率,上界pp(S,ev)

ppSev = single_strong_infl(stronglist)

#获取pp(u,ev)

ppuev = single_strong_infl(longest_path(gllist, u, ev))

#计算上界gain(u|S,ev)

uSevgain = (1 - ppSev) * ppuev

return uSevgain

def uppergain(u, emu, ems, S):

'''

在已有种子集合S的基础上,求得节点u的影响增益上界,

其中传进参数ems为二维列表,如[['a1',2.48],['a2',1.688]],S则为['a1','a2']

'''

uSgain = 0.0

#遍历emu得到列表形式,得到如['a1',2.48]形式

for ev in emu:

#判断节点是否存在种子集合中

if ev[0] in S:

uSgain += uS_e_uppergain(u, ev[0], S)

else:

uSgain += ev[1]

#返回上界gain(u|S)

return uSgain

def bound_base_imms(G, k):

'''

完全使用影响增益上界的方式选择top-k个种子节点的过程

'''

#初始化emu,H,初始化ems=空集,S=空集

Htemp = []

Htemp = all_strong_infl(G)

H = []

#遍历Htemp=[['a1',2.48],['a2',1.688]],得到如['a1',2.48]形式

for x in Htemp:

#逐个获取二维列表中每一行,形式为['a1',2.48,0]

H.append([x[0],x[1],0])

emu = []

emu = all_strong_infl(G)

ems = []

S = []

for i in range(k):

#提取堆顶元素,tnode的形式为['a1',2.48,0]

tnode = heapq.nlargest(1, H, key=lambda x: x[1])

#将[['b2', 3.1, 0]]格式改为['b2', 3.1, 0]格式

tnode = sum(tnode, [])

while (tnode[2] != i):

gain = 0.0

#获取节点u的影响增益上界

gain = uppergain(tnode, emu, ems, S)

#赋值影响范围

tnode[1] = gain

#修改status

tnode[2] = i

#对堆进行排序

H = heapq.nlargest(len(H), H, key=lambda x: x[1])

#获取堆顶元素

tnode = heapq.nlargest(1, H, key=lambda x: x[1])

tnode = sum(tnode, [])

#添加node到种子集合

S.append([tnode[0]])

#更新ems,添加新节点及节点对每个实体的影响范围加权

ems.append([tnode[0], tnode[1]])

#删除堆顶元素

H.remove(tnode)

print ems

return sum(S, [])

if __name__=='__main__':

#大小为k的种子集合S

k = 60

#加载文件数据,得到图G和初始列表gllist

load_graph('test.txt')

#完全使用影响增益上界值的计算过程函数,打印种子集合S

print '种子集合:',bound_base_imms(G, k)

test.txt

a1 b1 0.2 0

a1 c1 0.8 0

a2 b2 0.4 0

a2 d2 1 0

b1 c1 0.7 0

c2 a2 0.8 0

d2 b2 0.6 0

a1 a2 1 1

a2 a1 0.1 1

....

a1 l1 0.5 0

a1 m1 0.5 0

a1 q1 0.5 0

a1 v1 0.5 0

a1 z1 0.5 0

a1 s1 0.5 0

a1 w1 0.5 0

a1 u1 0.5 0

其中前两列为传播实体,第三列为实体间传播概率,最后一列为0代表同一网络传播,为1代表网络间自传播。

下来要进行优化:

1.采用独立级联模型,设置阈值

2.将最大路径改为最短路径,利用log

如何使用python将大量数据导出到Excel中的小技巧

(1) 问题描述:为了更好地展示数据,Excel格式的数据文件往往比文本文件更具有优势,但是具体到python中,该如何导出数据到Excel呢?如果碰到需要导出大量数据又该如何操作呢?本文主要解决以上两个问题。

(2)具体步骤如下:

1.第一步,安装openpyxl,

使用pip install openpyxl即可,但是在windows下安装的是2.2.6版本,但是centos自动安装的是4.1版本,(多谢海哥的提醒)。

写的代码在windows下运行没问题,但centos上却报错了,说是ew=ExcelWriter(workbook=wb)少提供一个参数,于是果断在 237服务器上我已安装2.2.6版本的,问题解决。

pip install openpyxl==2.2.6

2.第二步,哈哈,没有啦,废话不说了,直接上代码,ps,代码中包含xlwt和openpyxl的两个实现版本。

(3)扩展阅读:通过查阅资料,发现网上众说纷纭,总结起来有如下几点:

python Excel相关的操作的module lib有两组,一组是xlrd、xlwt、xlutils,另一组是openpyxl,

但是前一组(xlrd,xlwt)比较老,只能处理由Excel 97-2003 或者Excel 97 以前版本生成的xls格式的excel文件,xlwt甚至不支持07版以后的excel ,这个格式excel文件一般来说,最大只能支持256列或者65536行的excel文件。

因此面对需要导出大量数据到excel的情况,你将有如下三种选择,(1)换一种存储格式,如保存为CSV文件 (2)使用openpyxl—,因为它支持对Excel 2007+ xlsx/xlsm format的处理 (3) win32 COM (Windows only)

当然,我们要直面困难了,为了更好地展示数据给产品和用户,我们依然选择的第二种。

ps,非常lucky,一番搜索后我找到了openpyxl,支持07+的excel,一直有人在维护,文档清晰易读,参照Tutorial和API文档很快就能上手,就是它了~

(4)闲话少说,直接上代码,敬请参考

# coding:utf-8

'''

# 希望对大家有帮助哈,请多提问题

create by yaoyz

date: 2017/01/24

'''

import xlrd

import xlwt

# workbook相关

from openpyxl.workbook import Workbook

# ExcelWriter,封装了很强大的excel写的功能

from openpyxl.writer.excel import ExcelWriter

# 一个eggache的数字转为列字母的方法

from openpyxl.utils import get_column_letter

from openpyxl.reader.excel import load_workbook

class HandleExcel():

'''Excel相关操作类'''

def __init__(self):

self. head_row_labels = [u'学生ID',u'学生姓名',u'联系方式',u'知识点ID',u'知识点名称']

"""

function:

读出txt文件中的每一条记录,把它保存在list中

Param:

filename: 要读出的文件名

Return:

res_list: 返回的记录的list

"""

def read_from_file(self,filename):

res_list=[]

file_obj=open(filename,"r")

for line in file_obj.readlines():

res_list.append(line)

file_obj.close()

return res_list

"""

function:

读出*.xlsx中的每一条记录,把它保存在data_dic中返回

Param:

excel_name: 要读出的文件名

Return:

data_dic: 返回的记录的dict

"""

def read_excel_with_openpyxl(self, excel_name="testexcel2007.xlsx"):

# 读取excel2007文件

wb = load_workbook(filename=excel_name)

# 显示有多少张表

print "Worksheet range(s):" , wb.get_named_ranges()

print "Worksheet name(s):" , wb.get_sheet_names()

# 取第一张表

sheetnames = wb.get_sheet_names()

ws = wb.get_sheet_by_name(sheetnames[0])

# 显示表名,表行数,表列数

print "Work Sheet Titile:" ,ws.title

print "Work Sheet Rows:" ,ws.get_highest_row()

print "Work Sheet Cols:" ,ws.get_highest_column()

# 获取读入的excel表格的有多少行,有多少列

row_num=ws.get_highest_row()

col_num=ws.get_highest_column()

print "row_num: ",row_num," col_num: ",col_num

# 建立存储数据的字典

data_dic = {}

sign=1

# 把数据存到字典中

for row in ws.rows:

temp_list=[]

# print "row",row

for cell in row:

print cell.value,

temp_list.append(cell.value)

print ""

data_dic[sign]=temp_list

sign+=1

print data_dic

return data_dic

"""

function:

读出*.xlsx中的每一条记录,把它保存在data_dic中返回

Param:

records: 要保存的,一个包含每一条记录的list

save_excel_name: 保存为的文件名

head_row_stu_arrive_star:

Return:

data_dic: 返回的记录的dict

"""

def write_to_excel_with_openpyxl(self,records,head_row,save_excel_name="save.xlsx"):

# 新建一个workbook

wb = Workbook()

# 新建一个excelWriter

ew = ExcelWriter(workbook=wb)

# 设置文件输出路径与名称

dest_filename = save_excel_name.decode('utf-8')

# 第一个sheet是ws

ws = wb.worksheets[0]

# 设置ws的名称

ws.title = "range names"

# 写第一行,标题行

for h_x in range(1,len(head_row)+1):

h_col=get_column_letter(h_x)

#print h_col

ws.cell('%s%s' % (h_col, 1)).value = '%s' % (head_row[h_x-1])

# 写第二行及其以后的那些行

i = 2

for record in records:

record_list=str(record).strip().split("\t")

for x in range(1,len(record_list)+1):

col = get_column_letter(x)

ws.cell('%s%s' % (col, i)).value = '%s' % (record_list[x-1].decode('utf-8'))

i += 1

# 写文件

ew.save(filename=dest_filename)

"""

function:

测试输出Excel内容

读出Excel文件

Param:

excel_name: 要读出的Excel文件名

Return:

"""

def read_excel(self,excel_name):

workbook=xlrd.open_workbook(excel_name)

print workbook.sheet_names()

# 获取所有sheet

print workbook.sheet_names() # [u'sheet1', u'sheet2']

sheet2_name = workbook.sheet_names()[1]

# 根据sheet索引或者名称获取sheet内容

sheet2 = workbook.sheet_by_index(1) # sheet索引从0开始

sheet2 = workbook.sheet_by_name('Sheet1')

# sheet的名称,行数,列数

print sheet2.name,sheet2.nrows,sheet2.ncols

# 获取整行和整列的值(数组)

rows = sheet2.row_values(3) # 获取第四行内容

cols = sheet2.col_values(2) # 获取第三列内容

print rows

print cols

# 获取单元格内容

print sheet2.cell(1,0).value

print sheet2.cell_value(1,0)

print sheet2.row(1)[0].value

# 获取单元格内容的数据类型

print sheet2.cell(1,0).ctype

# 通过名称获取

return workbook.sheet_by_name(u'Sheet1')

"""

function:

设置单元格样式

Param:

name: 字体名字

height: 字体高度

bold: 是否大写

Return:

style: 返回设置好的格式对象

"""

def set_style(self,name,height,bold=False):

style = xlwt.XFStyle() # 初始化样式

font = xlwt.Font() # 为样式创建字体

font.name = name # 'Times New Roman'

font.bold = bold

font.color_index = 4

font.height = height

borders= xlwt.Borders()

borders.left= 6

borders.right= 6

borders.top= 6

borders.bottom= 6

style.font = font

style.borders = borders

return style

"""

function:

按照 设置单元格样式 把计算结果由txt转变为Excel存储

Param:

dataset:要保存的结果数据,list存储

Return:

将结果保存为 excel对象中

"""

def write_to_excel(self, dataset,save_excel_name,head_row):

f = xlwt.Workbook() # 创建工作簿

# 创建第一个sheet:

# sheet1

count=1

sheet1 = f.add_sheet(u'sheet1', cell_overwrite_ok=True) # 创建sheet

# 首行标题:

for p in range(len(head_row)):

sheet1.write(0,p,head_row[p],self.set_style('Times New Roman',250,True))

default=self.set_style('Times New Roman',200,False) # define style out the loop will work

for line in dataset:

row_list=str(line).strip("\n").split("\t")

for pp in range(len(str(line).strip("\n").split("\t"))):

sheet1.write(count,pp,row_list[pp].decode('utf-8'),default)

count+=1

f.save(save_excel_name) # 保存文件

def run_main_save_to_excel_with_openpyxl(self):

print "测试读写2007及以后的excel文件xlsx,以方便写入文件更多数据"

print "1. 把txt文件读入到内存中,以list对象存储"

dataset_list=self.read_from_file("test_excel.txt")

'''test use openpyxl to handle EXCEL 2007'''

print "2. 把文件写入到Excel表格中"

head_row_label=self.head_row_labels

save_name="test_openpyxl.xlsx"

self.write_to_excel_with_openpyxl(dataset_list,head_row_label,save_name)

print "3. 执行完毕,由txt格式文件保存为Excel文件的任务"

def run_main_save_to_excel_with_xlwt(self):

print " 4. 把txt文件读入到内存中,以list对象存储"

dataset_list=self.read_from_file("test_excel.txt")

'''test use xlwt to handle EXCEL 97-2003'''

print " 5. 把文件写入到Excel表格中"

head_row_label=self.head_row_labels

save_name="test_xlwt.xls"

self.write_to_excel_with_openpyxl(dataset_list,head_row_label,save_name)

print "6. 执行完毕,由txt格式文件保存为Excel文件的任务"

if __name__ == '__main__':

print "create handle Excel Object"

obj_handle_excel=HandleExcel()

# 分别使用openpyxl和xlwt将数据写入文件

obj_handle_excel.run_main_save_to_excel_with_openpyxl()

obj_handle_excel.run_main_save_to_excel_with_xlwt()

'''测试读出文件,注意openpyxl不可以读取xls的文件,xlrd不可以读取xlsx格式的文件'''

#obj_handle_excel.read_excel_with_openpyxl("testexcel2003.xls") # 错误写法

#obj_handle_excel.read_excel_with_openpyxl("testexcel2003.xls") # 错误写法

obj_handle_excel.read_excel("testexcel2003.xls")

obj_handle_excel.read_excel_with_openpyxl("testexcel2007.xlsx")

Python 安装第三方库有两种方式:

1. 使用 pip 命令行工具在线下载你需要的第三方库

2. 手动下载第三方库,再使用 pip 命令安装

1. 使用 pip 命令行工具在线下载你需要的第三方库

什么是 pip ?

pip 是Python的软件包管理系统,Python语言自带的命令行工具,它可以安装和管理第三方软件包。

使用 pip 工具安装软件包的命令是:pip install some-package-name

我们现在下载名字为:requests 的第三方库。(这个库是用来处理HTTP的Python第三方库。)

在命令行窗口中执行下面的命令:pip install requests

这样 requests 第三方库就下载和安装完成了。

在你的脚本中添加:import requests,就可以使用这个 Requests 库。

如果你在执行 pip install some-package-name 命令的时候,它输出:没有找到这样的软件包。

遇到这样的情况要然后解决呢?

遇到这种情况,多半是:撞墙的原因。这时,我们就需要手动下载相关第三方库的安装包了。手动下载第三方库,再使用 pip 命令安装。